xAI klagt gegen Minnesotas Nudify-Verbot und beruft sich allein auf das First Amendment

Minnesota hat als erster US-Bundesstaat ein Gesetz gegen sogenannte Nudify-Dienste beschlossen. HF 1606 passierte das Repräsentantenhaus mit 132 zu 1 Stimmen und den Senat mit 65 zu 0, unterzeichnet hat Gouverneur Tim Walz. Die Regelung steht in Kapitel 617 der Minnesota Statutes und gilt ab 1. August 2026. Es handelt sich um das Recht eines einzelnen Bundesstaats.

Verboten wird ab diesem Datum, Nutzern über eine Website, App, Software oder einen Dienst das Erzeugen von Nacktbildern aus echten Aufnahmen zu ermöglichen, ebenso das Erzeugen im Auftrag eines Nutzers. Auch Werbung für solche Produkte fällt darunter. Die Legaldefinition setzt an einem einfachen Kriterium an: Ein Bild oder Video wird so verändert oder erzeugt, dass es einen Intimbereich zeigt, der in der unveränderten Originalaufnahme einer identifizierbaren Person nicht zu sehen war.

Durchgesetzt wird zivilrechtlich, nicht strafrechtlich. Vorgesehen sind Zivilstrafen bis 500.000 Dollar pro Verstoß, dazu Schadenersatz, bei seelischem Leid bis zum Dreifachen des tatsächlichen Schadens, außerdem Strafschadenersatz, Unterlassung und Anwaltskosten.

xAI brachte am Montag, 27. Juli, beim US-Bundesgericht in Minnesota Klage ein, Beklagter ist Attorney General Keith Ellison. Ein Aktenzeichen ist öffentlich nicht auffindbar. Argumentiert wird ausschließlich mit dem First Amendment: Das Gesetz verhänge, so die Klageschrift, „an overbroad, content-based ban on free speech and the tools of visual expression in a clumsy attempt to prohibit ‚nudification‘“. Weitere Angriffspunkte führt xAI nicht an.

Das Unternehmen betont, es untersage seinen Nutzern das Erzeugen nicht einvernehmlicher Nacktbilder streng und habe selbst Nutzer verklagt, die die technischen Sperren umgingen. Parallel ist xAI mit einer beantragten Sammelklage konfrontiert, wonach genau solche Bilder auf der eigenen Plattform entstanden seien. Ein Unternehmen klagt also gegen ein Verbot, während es wegen desselben Verhaltens verklagt wird.

Ellison hielt dem entgegen, es sei abscheulich, KI zu nutzen, um Nacktbilder von Menschen gegen deren Willen zu erzeugen. Solche Bilder raubten den Betroffenen ihre Würde und könnten emotional, persönlich und beruflich immensen Schaden anrichten. Eine über die Klageschrift hinausgehende offizielle Stellungnahme von xAI liegt mit Stand 30. Juli nicht vor.