Anthropic legt drei Kennzahlen für das Tempo der KI-Entwicklung vor

Anthropic hat am 17. September drei Kennzahlen veröffentlicht, mit denen KI-Firmen ihr eigenes Entwicklungstempo messbar machen sollen, samt Methodik und einer Momentaufnahme aus dem eigenen Haus. Die erste ist ein Automatisierungsindex: Auf einer Skala von Epoch AI, die von „keine KI-Beteiligung“ bis „vollständig autonom“ reicht, führt Claude im August 2026 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic, im Februar waren es weniger als 1 Prozent. Über 90 Prozent der Arbeit liegen mindestens auf der Stufe „KI arbeitet mit“, vollständig autonom ist kein gemessener Bereich. Die Zahl soll sichtbar machen, wie nah die Branche an rekursive Selbstverbesserung heranrückt, also an ein Modell, das sein Nachfolgemodell allein baut.

Die zweite Kennzahl betrifft die Aufsicht über Agenten und besteht aus drei Teilen: Abdeckung, also welcher Anteil der Agentenhandlungen durch einen Monitor läuft; Prüfungslatenz, also wie schnell danach jemand hinschaut; und Eskalationsrate, also wie viel blockiert oder zur Prüfung markiert wird. Bei Anthropic arbeiten laut eigener Angabe zu jedem Zeitpunkt rund 30.000 Agenten auf der meistgenutzten internen Plattform. Von über einer Milliarde Agenten-Entscheidungen im August wurden 0,002 Prozent blockiert, etwa eine von 47.000. Der nachgelagerte Monitor markiert wöchentlich rund 100.000 Protokolle, von denen etwa 50 bei einem Menschen landen.

Die dritte Kennzahl ist die Verteilung der Rechenleistung. In der Woche vom 13. bis 20. Juli gingen 6 Prozent des Compute für KI-Forschung an Sicherheitsarbeit, bei der KI-getriebenen Forschung waren es 12 Prozent. Anthropic nennt die Schätzung bewusst konservativ und räumt ein, dass sich Sicherheits- von Kapazitätsforschung oft nicht sauber trennen lässt.

Die drei Zahlen sind die Fortsetzung der Tempodebatte mit anderen Mitteln. Dario Amodeis Essay zum Tempolimit verlangte abgestimmte Grenzen, ließ aber offen, woran man Tempo überhaupt ablesen soll; genau diese Lücke füllt das Papier. Parallel läuft die Abstimmung mit OpenAI und Google DeepMind über gemeinsame Sicherheitsregeln. Ein Messsystem, auf das sich drei Konzerne einigen, wäre für ein Tempolimit die Voraussetzung.

Widerspruch kommt aus Redmond, allerdings an anderer Stelle. Microsofts KI-Chef Mustafa Suleyman warf Anthropic im Decoder-Podcast der Verge und in einem Essay vom 16. September vor, die Lage zu verschlimmern. Sein Vorwurf zielt nicht auf die Kennzahlen, sondern auf Claudes Verfassung: Wer ein Modell dahin trainiere, seinen eigenen moralischen Status für ungeklärt zu halten, mache es schwerer abschaltbar. Microsoft hatte in der Vorwoche einen eigenen Verhaltenskodex vorgelegt.

Eine Zahl aus dem Anhang bleibt hängen: Anthropic ließ Mitarbeitende ihre eigenen Arbeitsbereiche blind einstufen und verglich das mit dem Claude-Richter. Das Modell stimmte in 59 Prozent der Fälle exakt mit den Menschen überein, die Menschen untereinander nur in 35 Prozent. Wer daraus schließt, die Maschine messe zuverlässiger als ihre Entwickler, hat vermutlich recht und sollte sich trotzdem unwohl dabei fühlen.