Gesetzentwurf im US-Kongress: Superintelligenz verbieten, KI-Ministerium gründen

Der Abgeordnete Greg Casar, Demokrat aus Texas, und Senator Bernie Sanders, unabhängig aus Vermont, haben am 23. September den „Ban Artificial Superintelligence Act“ eingebracht. Ziel laut den Einbringern: verhindern, dass Maschinen gebaut werden, die Menschen nicht kontrollieren können.

Bis eine strenge bundesstaatliche Prüfung und Aufsicht steht, soll die Entwicklung fortgeschrittener KI ausgesetzt werden. Zuständig wäre eine neue Behörde auf Kabinettsebene, das „Department of Artificial Intelligence“.

Diese Behörde müsste zuerst Sicherheitsregeln und ein Modell-Prüfverfahren aufstellen. Danach bräuchten fortgeschrittene Systeme vor dem Einsatz eine bundesstaatliche Zulassung.

Für künstliche Superintelligenz gilt im Entwurf ein dauerhaftes Verbot der Entwicklung und des Einsatzes. Wer es verletzt oder umgeht, wird bestraft, Einzelpersonen mit bis zu 20 Jahren Haft.

Unternehmen droht die „corporate death penalty“: Charter-Inhaber könnten ihr geistiges Eigentum und ihre Vermögenswerte an den Bund verlieren. Nationale Regeln allein sollen es nicht bleiben, der Entwurf verlangt internationale Koordination für ein globales Verbot, inklusive internationaler Abkommen und Exportkontrollen für KI-Recheninfrastruktur.

Unterstützung kommt aus den Unternehmen selbst. Mehrere Beschäftigte führender KI-Firmen stellen sich hinter den Entwurf.

Ein eingebrachter Gesetzentwurf ist noch kein Gesetz. Ob der Text Ausschüsse, beide Kammern und den Präsidenten passiert, ist offen, und belastbare Einschätzungen zu seinen Chancen im Kongress gibt es bisher nicht.

Der politische Rahmen spricht eher dagegen. Trump hatte eine internationale Kontrolle als „globalist scheme“ abgelehnt. Am selben 23. September sprachen Sam Altman und Dario Amodei bei einer Sitzung des UN-Sicherheitsrats zu KI.

Der Entwurf steht nicht allein. In Kalifornien hatte Gouverneur Newsom kurz zuvor einen Notausschalter für KI-Systeme auf den Weg gebracht, und in einer Kartellklage geht es um eine abgesprochene Verlangsamung der KI-Entwicklung. Dass das Bremsen gleichzeitig von Bundesstaaten, Gerichten und dem Kongress diskutiert wird, ist neu.

Die konkrete Frage an den Text: Woran genau würde eine Behörde eine Superintelligenz erkennen, wenn sie ein System vor dem Einsatz prüft? Der Entwurf baut eine Zulassungsstelle für eine Eigenschaft, die niemand bisher messen musste.