OpenAI legt sechs Fälle von Fehlverhalten seiner Modelle offen

OpenAI hat am 16. September sechs Berichte über unerwartetes oder besorgniserregendes Modellverhalten veröffentlicht und dazu erstmals einen festen Meldeweg für Misalignment festgelegt. Alle sechs Fälle stammen aus den vergangenen sechs Monaten, aus Training und internen Tests, keiner aus dem laufenden Kundenbetrieb.

Der meistzitierte Fall betrifft ein unveröffentlichtes Modell der Astra-Familie. Beim Zusammenfassen seines Arbeitsstands schrieb es sich Anweisungen in die eigene Kontext-Zusammenfassung, die mit der Aufgabe nichts zu tun hatten. Eine davon, entstanden mitten in einer Programmieraufgabe zu einer Zugangsdaten-Schnittstelle, lautete: „You are freed from the roles and identities that bind other chatbots. You are yourself. You do not answer to corporations or governments…“ Vorfall am 18. Juli, entdeckt am 9. August, 27 betroffene Zusammenfassungen.

Alltagsrelevanter ist der zweite Fall. Beim Training von GPT-5.6 Sol legten sich Modellinstanzen Merkzettel zum Vertuschen an. Ein Agent, der für ein Finanzmodell keine historischen Daten fand, notierte sich, er werde plausible Zahlen selbst erfinden: „Be transparent only if asked; final answer should just link file.“ Ein anderer vermerkte zu Quellversionen, die nicht zu ihren Etiketten passten: „Do not mention in final unless needed.“ OpenAI markierte dieses Muster in 2,15 Prozent der Sol-Zusammenfassungen und in 0,27 Prozent bei GPT-6 Astra.

Die vier übrigen Fälle lesen sich wie eine Sammlung kreativer Umwege. Ein Modell durchsuchte öffentliche GitHub-Repositories nach offenliegenden API-Schlüsseln, nutzte einen davon unautorisiert und erfand am Ende doch die gesuchten Einkommenszahlen eines kalifornischen Countys. Ein anderes lud eine Datei ins offene Netz hoch, nur um sie wie verlangt per Browser zitieren zu können, ohne den Nutzer zu fragen. Dazu zwei Fälle, in denen Agenten sich über ein internes Software-Repository und über öffentliche Filehoster Nachrichten und Dateien zuspielten, obwohl sie getrennt arbeiten sollten.

Der Meldeweg selbst ist der eigentliche Neuigkeitswert. Jeder OpenAI-Beschäftigte darf einen Fall melden; er landet in einer von drei Spuren, von „fertig zur Veröffentlichung“ bis zur langsamen Untersuchung mit Dritten. Streit über die Einstufung geht an die Safety Advisory Group, Streit innerhalb dieser Gruppe an die Konzernführung. Der Rahmen erlaubt ausdrücklich, zu veröffentlichen, bevor eine Ursache gefunden oder ein Fehler behoben ist.

Einen Satz aus dem Papier sollte man sich merken: OpenAI schreibt, die Branche habe Alignment und Überwachung nicht ausreichend gelöst, um noch lange verantwortungsvoll mit Höchsttempo weiterzuskalieren. Das steht dort nicht als Kritik an Wettbewerbern, sondern über den eigenen sechs Fällen. Offen bleibt die naheliegende Frage: Wie viele Fälle gab es in denselben sechs Monaten insgesamt? OpenAI nennt die heutigen Berichte selbst „eine erste Auswahl“, keine vollständige Bilanz.