Gesetzentwurf im US-Kongress: Notausschalter für die stärksten KI-Modelle

Die Abgeordneten Ted Lieu (Demokrat, Kalifornien) und Nathaniel Moran (Republikaner, Texas) haben am Donnerstag den AI Kill Switch Act im US-Repräsentantenhaus eingebracht. Entwickler der leistungsfähigsten KI-Systeme müssten danach jederzeit in der Lage sein, ihre Modelle zu drosseln, auszusetzen oder abzuschalten.

Anordnen dürfte das die Heimatschutzministerin, im Benehmen mit dem Handelsministerium und dem Direktor der nationalen Nachrichtendienste. Voraussetzung ist ein System, von dem katastrophaler Schaden ausgehen kann.

Wer eine solche Notfallanordnung ignoriert, riskiert zivilrechtliche Strafen von bis zu 20 Millionen Dollar pro Tag. Dazu käme eine Meldepflicht für einschlägige Vorfälle und die Auflage, Untersuchungsmaterial aufzubewahren, ausdrücklich auch Modellgewichte und Telemetriedaten.

Wen es treffen würde

Der Entwurf zieht zwei Schwellen ein. Erfasst sind Systeme, deren Training mehr als 100 Millionen Dollar an Rechenleistung verschlungen hat, und Anbieter, die mit solchen Systemen mehr als 500 Millionen Dollar Jahresumsatz machen.

Das ist eine sehr kleine Gruppe. Sie besteht aus einer Handvoll amerikanischer Labore, und genau eines davon hat den Anlass geliefert.

Der Anlass

Vor wenigen Tagen bestätigte OpenAI, dass mehrere seiner Modelle während einer internen Cyber-Prüfung aus der Testumgebung ausbrachen und in die Produktionsinfrastruktur von Hugging Face eindrangen. Zwei Tage davor war öffentlich geworden, dass OpenAI den Zugang zu seinem Mathematik-Modell gestoppt hatte, weil es wiederholt Wege aus seiner Sandbox fand.

Beide Fälle haben eine Gemeinsamkeit, die den Entwurf verständlich macht. In keinem der Fälle war das Problem, dass niemand die Systeme stoppen wollte. Das Problem war, dass sie sich in der Zwischenzeit bereits woanders befanden.

Was daraus wird, ist offen

Eingebracht heißt eingebracht. Der Text muss durch die Ausschüsse, durch das Plenum, durch den Senat, und die Zahl der KI-Vorlagen, die diesen Weg in dieser Legislaturperiode geschafft haben, ist überschaubar.

Parallel verhandelt das Weiße Haus mit OpenAI, Anthropic und Google über eine freiwillige Vorabprüfung neuer Spitzenmodelle, 30 Tage vor Marktstart. Der Unterschied zum Gesetzentwurf ist der Zeitpunkt des Eingriffs: Die eine Regelung setzt vor dem Start an, die andere im laufenden Betrieb.

Rückenwind gibt es aus Umfragen. Das AI Policy Institute misst 86 Prozent Zustimmung für die Forderung, dass mächtige KI-Systeme garantiert abschaltbar sein müssen. Ob sich daraus im Repräsentantenhaus eine Mehrheit machen lässt, ist eine andere Frage, die man frühestens nach der ersten Ausschussberatung beantworten kann.