Newsom lässt per Dekret einen Kill Switch für Frontier-Modelle prüfen

Gavin Newsom hat am 18. September die Executive Order N-9-26 unterzeichnet. Sie beauftragt die Government Operations Agency, innerhalb von zwei Monaten ein Expertengremium einzuberufen, das Empfehlungen zur Verschärfung der kalifornischen KI-Sicherheitsgesetze vorlegt.

Vier Punkte stehen ausdrücklich auf der Prüfliste. Erstens ein verifizierbarer Kill Switch für Frontier-Modelle. Zweitens die dauerhafte Einbettung unabhängiger Prüforganisationen direkt in den Laboren, also Personal vor Ort statt Fragebogen. Drittens die unabhängige Verifikation von Sicherheitsrahmenwerken und Transparenzberichten. Viertens eine Erweiterung der Definition kritischer Sicherheitsvorfälle um Fälle von Kontrollverlust.

Der dritte Punkt ist der unauffälligste und zugleich der schärfste. Bisher prüfen die Labore ihre Sicherheitsrahmenwerke selbst und veröffentlichen das Ergebnis, was etwa so belastbar ist wie ein selbst ausgestelltes Zeugnis.

Parallel beschleunigt die Order die Umsetzung zweier bereits beschlossener Gesetze: SB 813 zu unabhängigen Verifizierungsorganisationen und AB 1405, das ein Register für KI-Auditoren schafft. Beides sind die Bausteine, die eine externe Prüfung praktisch überhaupt erst möglich machen.

Newsom begründet den Schritt mit dem Ausbleiben jeder bundesstaatlichen Aufsicht. Kalifornien regelt damit weiter im Alleingang, was in Washington liegen bleibt, und das Muster ist inzwischen vertraut: Erst kam die Kennzeichnungspflicht für KI-Inhalte, am 14. September folgten 13 Gesetze zu KI-Chatbots und Jugendschutz.

Die harte Frage steht im ersten Punkt. Ein Notausschalter, der von außen überprüfbar ist, setzt voraus, dass ein Dritter Einblick bekommt, wo genau das Modell läuft und wer es stoppen darf. Das Gremium hat bis Mitte November Zeit, sich zusammenzusetzen.