Google, OpenAI und Anthropic planen eine eigene Aufsicht für ihre stärksten Modelle

Google, OpenAI und Anthropic arbeiten an einer gemeinsamen Selbstregulierungsorganisation für Frontier-KI. Arbeitsname: Standards Authority for Frontier AI, kurz SAFA, in manchen Berichten auch Frontier AI Standards Agency. Start geplant für Ende 2026 oder Anfang 2027.

Vorbild ist die FINRA, die Aufsicht der Wall-Street-Broker: staatlich anerkannt, aber nicht staatlich geführt. SAFA soll ausdrücklich ohne Regierungsbeteiligung arbeiten.

Auf der Aufgabenliste stehen Test- und Audit-Rahmenwerke, Sicherheitstests vor Deployments bei Drittanbietern, Regeln zur Meldung von Vorfällen und Qualifikationsstandards für Auditoren. Also im Kern die Fragen, die eine Behörde beantworten müsste.

Als Geschäftsführer angesprochen wurde laut Bericht Sriram Krishnan, früherer KI-Politikberater im Weißen Haus. Sondiert worden sein soll auch bei Arati Prabhakar, der früheren Direktorin des White House Office of Science and Technology Policy, bei Condoleezza Rice und bei David Friedberg. Bestätigt ist keine dieser Personalien.

Neu ist die Idee nicht. Demis Hassabis, CEO von Google DeepMind, hatte sie im Juli 2026 selbst öffentlich vorgeschlagen. Der Schwenk zur Selbstregulierung kam, nachdem das Weiße Haus den Entwurf einer Executive Order zurückgestellt hatte.

Primärquelle ist The Information, aufgegriffen haben es TechRepublic, Computerworld und andere. Eine offizielle Ankündigung gibt es von keinem der drei Unternehmen: Weder openai.com noch anthropic.com noch die Blogs von Google und DeepMind führen dazu etwas (Stand 28. September). Das ist Planungsstand.

Interessant ist die Woche, in die das fällt. Vergangene Woche legte das wissenschaftliche KI-Panel der Vereinten Nationen seinen Bericht zum Kontrollverlust bei KI-Agenten vor und stützte ihn auf OpenAIs interne Tests. Kurz davor wurde bekannt, dass das Weiße Haus die Labore um Vorrang bei Modelltests bat, bevor britische Prüfer Zugang bekommen. Dieselbe Frage, drei verschiedene Absender.

Und eine Frage bleibt für europäische Anbieterverträge offen: Wenn SAFA Auditoren qualifiziert und Meldewege definiert, welchen Status hätte das gegenüber den Pflichten des AI Act? Darauf gibt bisher keiner der Berichte eine Antwort, weil es die Instanz noch nicht gibt.