Anthropic beschreibt Raketensteuerung, Navy-Ziele und Distillation in sieben Schadensfeldern

Anthropic hat am 18. September seinen bisher ausführlichsten Bericht über den Missbrauch der eigenen Modelle veröffentlicht. „Countering misuse of AI: September 2026“ deckt den Zeitraum Dezember 2025 bis August 2026 ab und sortiert die gestoppten Operationen in sieben Schadensfelder: Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffenentwicklung und Distillation.

Drei Fälle stehen im Vordergrund. Milizen im Jemen versuchten, Claudes Coding-Werkzeuge zur Entwicklung von Steuerungssoftware für Raketen zu nutzen. Iran-nahe Akteure richteten ihre Anfragen auf Schiffe der US Navy. China-nahe Gruppen fuhren Distillations-Kampagnen, um die Fähigkeiten des Modells in eigene Systeme zu kopieren.

Die Fälle mit China-Bezug hatten wir bereits Mitte September aus derselben Berichtsreihe beschrieben, damals mit 151 Millionen Abfragen und einer Zielerfassungs-Suite mit Taiwan-Szenario. Die neue Fassung ordnet diese Vorfälle in ein breiteres Raster ein.

Interessanter als die einzelnen Fälle ist das Muster dahinter. Angriffe laufen zunehmend über Agenten-Frameworks statt über direkte Eingaben, und das eigentliche Beuteziel sind API-Keys. Wer einen gültigen Schlüssel hat, arbeitet innerhalb der regulären Schnittstelle und sieht für das Sicherheitssystem zunächst aus wie ein zahlender Kunde.

Anthropic erklärt, jede beschriebene Operation unterbunden zu haben. Das ist eine Aussage über die eigene Abwehr, kein Prüfbericht eines Dritten, und genau hier fehlt bislang jede unabhängige Instanz.

Der Bericht kommt in eine Woche, in der Anthropic ohnehin viel über eigene Maßstäbe redet: erst die gemeinsamen Sicherheitsregeln mit OpenAI und Google DeepMind, dann drei Kennzahlen für das Tempo der KI-Entwicklung. Wer die Messlatte selbst aufstellt, misst bequemerweise auch selbst.