DeepMind-Chef Hassabis will eine US-geführte KI-Aufsicht — nach dem Vorbild der Wall-Street-Wächter

Der Chef von Google DeepMind, Demis Hassabis, hat in einem persönlichen Manifest mit dem Titel „A Framework for Frontier AI and the Dawning of a New Age“ eine neue KI-Aufsichtsbehörde unter US-Führung vorgeschlagen. Sie soll die weltweit fortschrittlichsten Modelle prüfen dürfen — und im Ernstfall eine branchenweite Verlangsamung der Entwicklung koordinieren können, wenn die Risiken zu groß werden.

Das Vorbild ist ungewöhnlich: Hassabis orientiert sich an der FINRA, der privaten, industriefinanzierten Aufsicht, die den Wall-Street-Handel unter Aufsicht der Börsenaufsicht SEC überwacht. Frontier-Labore sollen ihre Modelle zunächst freiwillig teilen — bis zu 30 Tage vor dem Start — für Sicherheitstests, die gefährliche Fähigkeiten in den Bereichen Cyber, Biologie und „Täuschung“ aufspüren. Ein Modell müsste diese Vorab-Prüfung bestehen, bevor es auf den US-Markt dürfte. Die Regeln sollen für alle Frontier-Modelle gelten — „unabhängig vom Herkunftsland und davon, ob offen oder geschlossen“. Ein mehrheitlich unabhängiges Gremium aus Turing-Preisträgern, Fachleuten, Industrie, Regierung und Open-Source-Vertretern soll es steuern.

Auslöser war laut Hassabis ein konkreter Vorfall: Die „improvisierte“ Reaktion der Trump-Regierung auf Anthropics Modelle Mythos und Fable im Vormonat sei „ein Weckruf“ gewesen — Anthropic sah seine stärksten Modelle über Nacht per Exportkontrolle eingefroren und musste zweieinhalb Wochen ohne festes Regelwerk über deren Freigabe verhandeln.

Der Vorstoß trifft eine laufende Debatte: Erst kürzlich rang die UN in Genf um eine globale KI-Governance, und in Shanghai bündelt die World AI Conference Chinas Anspruch auf eine Führungsrolle. Dass nun ausgerechnet ein Labor-Chef eine verbindliche Vorab-Prüfung verlangt, ist bemerkenswert — kritisch zu lesen bleibt, dass eine industriefinanzierte Selbstaufsicht nach FINRA-Vorbild eben keine unabhängige staatliche Behörde ist. Ob Washington den Vorschlag aufgreift, ist offen.