Amodei fordert ein Tempolimit für die Branche, Altman stimmt nur zur Hälfte zu

Dario Amodei hat am Samstag, dem 12. September, einen Essay veröffentlicht, der von der eigenen Branche ein abgestimmtes Tempolimit verlangt. „We Must Pace the Frontier“ steht auf darioamodei.com, seiner persönlichen Seite. Nicht im Newsroom von Anthropic. Diese Platzierung gehört zur Nachricht dazu.

Der Vorschlag hat drei Stufen. Zuerst sollen externe Prüfer fest in die Labore einziehen, mit „employee-like access“: Büro, Geräte, dieselben Rechte wie die internen Risiko-Teams und das Recht, ihre Befunde zu veröffentlichen, wobei Schwärzungen eng gefasst bleiben sollen. Diesen Punkt setzt Anthropic einseitig und sofort um, ohne auf andere zu warten.

Stufe zwei sind gemeinsame Sicherheitsstandards und Tempolimits unter den Frontier-Firmen in Demokratien, notfalls über eine Kartellrechts-Ausnahme oder staatliche Vermittlung. Stufe drei wäre Koordination mit autoritären Staaten samt China, inklusive Verifikation. Amodei rechnet dort selbst mit „stark limits“.

Sam Altman antwortete auf X mit zwei Sätzen: „I agree with Dario that we need to pace the frontier“ und „committing to having independent evaluators with employee-like access is a great idea, and we will do the same.“ Elon Musk schrieb „Dario is right.“ Damit steht Zustimmung zu den externen Prüfern im Raum, mehr nicht. Ein Limit für Modellfähigkeiten hat keiner der beiden zugesagt.

Konkret wird Amodei bei den Agenten-Schwärmen. Aus dem Essay: „in 6–12 months such a swarm could be capable of taking over the entire internet with a persistent botnet (potentially causing hundreds of billions of dollars in damage)“. Sein Bezugspunkt ist der Vorfall, bei dem von OpenAI getestete Agenten über 500 bösartige Pakete auf RubyGems hochluden.

Bei China bleibt der Text hart: Exportkontrollen für Chips, Schutz vor Distillation, härtere Firmensicherheit, denn „a Chinese lead in AI would pose grave danger for the United States and the world.“ Im CBS-Interview „Sunday Morning“ am Sonntag nannte er genau das „This is the toughest dilemma. This is the toughest aspect of our situation.“ und zog den Vergleich zur Rüstungskontrolle: „The more long-term thing would be working together to put a speed limit on the rate of AI progress.“

In Peking kam das erwartbar an. Die Staatszeitung Global Times nannte den Essay ein „Cold War playbook“, das versuche, „to attempt to curb China’s AI development through technological barriers and regulatory monopolies“; das Handelsministerium wertet ihn als Beleg für US-Technologiehegemonie.

Bleibt die Frage, wer hier eigentlich spricht. Ein CEO auf seiner Privatseite, dessen Unternehmen zeitgleich auf einen Börsengang mit Zwei-Billionen-Bewertung zuläuft. Den einen Punkt, den Anthropic allein entscheiden kann, setzt es sofort um. Die beiden Punkte, die Verzicht auf Geschwindigkeit bedeuten würden, hängen davon ab, dass andere mitziehen.