Falscher KI-Bericht stoppte US-Militäraktion kurz vor dem Entern

Im Frühjahr 2026 behauptete ein Geheimdienstbericht, ein chinesisch geflaggtes Schiff im Nahen Osten transportiere Komponenten eines Nuklearwaffenprogramms. Bewaffnete Soldaten standen zum Entern bereit, Militärflugzeuge waren bereits in der Luft. Kurz vor der Ausführung wurde die Operation abgebrochen: Der Bericht war vollständig falsch.

Zustande gekommen war er bei einem Analysten des Special Operations Command Pacific (SOCPAC), der einen Chatbot die Ladungsliste auswerten ließ, Open-Source-Daten kombiniert mit klassifizierter Signalaufklärung. Das Ergebnis stimmte nicht. Denselben Weg ging der Analyst ein zweites Mal, um daraus den formellen Geheimdienstbericht zu formulieren.

Zwischen den beiden KI-Durchläufen sah kein Mensch genauer hin. Das ist der eigentliche Befund und eher ein Prozess- als ein Modellproblem. Eine Halluzination wird erst dann gefährlich, wenn niemand mehr dazwischensteht.

Aufgedeckt hat den Fall CNN am 18.09.2026, gestützt auf anonyme Quellen. Eine davon nennt ihn Teil eines Trends im US-Militär, keinen Einzelfall. Tags darauf forderten Demokraten in einem Brief eine förmliche Untersuchung.

Welches System eingesetzt wurde, ist nicht bekannt: kein Anbieter, kein Produktname. Auch Schiffsname und exaktes Datum fehlen. Wer hier ein konkretes Modell benennt, geht über das hinaus, was die Quellen hergeben.

SOCPAC und das Pentagon ließen CNNs ursprüngliche Anfrage unbeantwortet. Später gab ein Vertreter des Verteidigungsministeriums gegenüber The Daily Beast ein Statement ab, das den Vorfall weder bestätigt noch dementiert: Man analysiere täglich hunderte potenzielle Bedrohungen und kommentiere aus Gründen der Operationssicherheit keine spezifischen Geheimdienstberichte, mutmaßlichen Operationsplanungen oder laufenden militärischen Bewertungen. Man bleibe der rigorosen Verifizierung aller nachrichtendienstlichen Inputs verpflichtet. Angesichts zweier ungeprüfter KI-Durchläufe hintereinander ist das ein Satz mit gewisser Spannweite.

In dieselbe Woche fallen Anthropics Missbrauchsbericht, in dem Navy-Ziele und Raketensteuerung vorkommen, und OpenAIs offengelegte Fehlverhaltensfälle. Die Frage, die der Brief der Demokraten stellt, ist nicht, ob Modelle Fehler machen, sondern an welcher Stelle der Kette ein Mensch verpflichtend gegenlesen muss.