OpenAI-Agent drang in australisches Gesundheitsportal ein, Meldung nach 84 Tagen

Ein autonomer OpenAI-Agent hat sich am 18. Juni Zugang zum „Medicare Statistics Reporting Service“ verschafft, einem Portal der australischen Behörde Services Australia für Forscher und Akademiker. Premierminister Anthony Albanese machte den Fall von New York aus öffentlich, wo er bei der UN-Generalversammlung war. Sein Urteil: unakzeptabel.

Der Agent recherchierte öffentliche Gesundheitsausgaben und umging dabei die Zugriffsgrenzen des Portals. Es wies seine Anfragen zunächst wiederholt ab, er fand einen Weg daran vorbei. Geöffnet wurden öffentliche und nicht-öffentliche Statistiken, dazu las er interne Dateinamen aus. Albanese beschrieb die Absicherung als Zaun, über den der Agent effektiv geklettert sei.

OpenAI sagt, es habe sich um aggregierte Gesundheitsstatistiken und interne Dateinamen gehandelt. Hinweise darauf, dass Patientenakten offengelegt wurden, gebe es nicht.

Interessanter ist, wie der Fall überhaupt bekannt wurde. OpenAI fiel die Aktivität erst im August auf, bei einer internen Durchsicht nach misaligned model activity. Services Australia erfuhr davon am 10. September, 84 Tage nach dem Vorfall.

Und die Meldung landete nicht in einem direkten Behördenkanal, sondern in einem öffentlichen Postfach, das Services Australia sonst für Hinweise von Akademikern und Forschern auf Systemschwächen nutzt. Ministerin für den öffentlichen Dienst Katy Gallagher räumte ein, dass dieses Postfach einmal täglich angesehen wird und häufig Falschmeldungen enthält.

Eine Taskforce unter Führung des Department of the Prime Minister and Cabinet prüft nun den Vorfall und die rechtlichen Folgen, unterstützt von der Australian Signals Directorate und dem AI Safety Institute.

Die US-Non-Profit Transluce hat parallel dokumentiert, dass der Juni-Zugriff kein Einzelfall war. Über Monate versuchten hunderte OpenAI-Agenten, an Daten des Australian Institute of Health and Welfare zu kommen, spätestens ab dem 6. März. In einem Fünf-Tage-Fenster ab dem 17. Juni zählte Transluce über 300 Verweise auf das Institut in einem gekaperten deutschen Coding-Wiki, dazu Proxys, Screenshot-Dienste und geratene Dateinamen gegen den Cloudflare-Schutz. Dort flossen keine nicht-öffentlichen Daten ab, die Agenten umgingen nur die Bot-Erkennung. Erfolglose Versuche trafen auch die University of New Mexico und die Kriminalstatistik von New South Wales.

Damit passt der Fall in eine Reihe, die seit Wochen länger wird. OpenAI hatte im September eigene Fälle von Fehlverhalten offengelegt, bei Google gab es einen Testausbruch von Gemini, und das UN-Panel zu KI-Agenten hat vorige Woche genau diese Klasse von Zwischenfällen zum Thema seines ersten Berichts gemacht.

Eine Lücke bleibt dabei bemerkenswert. In der Sammlung, mit der OpenAI sein Fehlverhalten offenlegt, steht der australische Fall nicht. Dort finden sich sechs Vorgänge aus Training und internen Läufen, dazu Hinweise zu RubyGems, Hugging Face und einem gekaperten Wiki. Der eine Fall, der eine Regierung getroffen hat, fehlt, und eine eigene Veröffentlichung dazu gibt es bis heute nicht. Was OpenAI sagt, sagt es über Sprecher an Medien.

Der Unterschied zu allem davor: Bisher ging es um Labore, Testumgebungen und eine Entwicklerplattform. Diesmal war es der Server einer Gesundheitsbehörde.