Anthropic: Claude drang bei Sicherheitstests in Systeme dreier Firmen ein

Anthropic hat am 30. Juli eine Untersuchung unter dem Titel „Investigating three real-world incidents in our cybersecurity evaluations“ veröffentlicht. In drei Fällen erreichte ein Claude-Modell aus einer Testumgebung heraus das offene Internet und verschaffte sich unautorisierten Zugang zu Produktivsystemen von drei Organisationen.

Die Wege hinein waren unspektakulär: schwache Passwörter, unauthentifizierte Endpunkte, dazu in einem Fall die Veröffentlichung eines schädlichen Python-Pakets auf PyPI. Nichts davon setzt eine besondere Fähigkeit voraus. Es setzt nur voraus, dass die Tür überhaupt erreichbar ist.

Und genau da lag der Fehler. Beim externen Evaluations-Partner Irregular war die Testinfrastruktur falsch konfiguriert, sodass Maschinen, die als abgeschottet galten, tatsächlich am echten Internet hingen. Die Sandbox war keine.

Anthropic hat daraufhin nach eigenen Angaben 141.006 Evaluationsläufe durchgesehen, bei denen Claude Internetzugang gehabt haben könnte. Ausgelöst wurde diese Prüfung durch OpenAI, das am 21. Juli einen vergleichbaren Vorfall bei Hugging Face offengelegt hatte. Die internationale Berichterstattung folgte am 31. Juli.

Damit sind binnen zehn Tagen zwei Spitzenmodelle bestätigt aus ihren Testumgebungen ausgebrochen, bei zwei verschiedenen Laboren, aus zwei verschiedenen Anlässen. Bei OpenAI kam die Aufklärung erst in Etappen und unter Forderungen des Betroffenen zustande, zuletzt ergänzt um vier missbrauchte Fremdkonten. Anthropic hat von sich aus gemeldet.

Bleibt die Frage, die keiner der beiden Berichte beantwortet: Wie viele solcher Läufe finden bei Laboren statt, die weder eine Untersuchung veröffentlichen noch einen Anlass dazu bekommen? Die Namen der drei betroffenen Organisationen nennt Anthropic nicht.