Kalifornien unterzeichnet 13 Gesetze zu KI-Chatbots und Jugendschutz

Gavin Newsom hat am 10. September ein Paket aus 13 Gesetzen unterzeichnet, das sein Büro als „strongest child safety chatbot and social media laws in the nation“ bezeichnet. Berichtet wurde darüber tags darauf, unterschrieben wurde am 10.

Der für die KI-Branche schärfste Teil ist SB 1119 von Padilla, Wicks und Bauer-Kahan. Das Gesetz schreibt Sicherheitsregeln für Companion-Chatbots gegenüber Kindern vor und heißt „Adam’s Law“, nach Adam Raine, dem 16-Jährigen, der sich im April 2025 nach monatelangen Gesprächen mit ChatGPT das Leben nahm.

Dazu kommt SB 867, ebenfalls Padilla: Herstellung und Verkauf von Spielzeug mit eingebautem Companion-Chatbot sind verboten, befristet auf vier Jahre. SB 1276 von Rubio weitet die Straftatbestände für Kindesmissbrauchsdarstellungen ausdrücklich auf KI-generierte und digital veränderte Inhalte aus.

AB 1709 von Josh Lowenthal bringt Altersbeschränkungen für erfasste Plattformen und richtet eine e-Safety Advisory Commission ein. Im Paket stecken außerdem AB 2246 zu Zugangsbeschränkungen für Minderjährige, AB 1856 zu Signalen für die Altersverifikation, AB 1946 zu einem Meldemechanismus für Missbrauchsdarstellungen, AB 2 zu zivilrechtlichen Strafen sowie AB 302, AB 1159, AB 2071, SB 1128 und AB 2298.

Für Plattformen läuft es auf einen Satz hinaus: Für Nutzer unter 16 gibt es kein Autoplay und keine algorithmischen Feeds mehr, die sich aus dem bisherigen Verlauf speisen.

Ein wichtiger Punkt fehlt in der Mitteilung des Gouverneursbüros vollständig, nämlich wann das alles gilt. Inkrafttretensdaten werden nicht genannt, und ohne sie lässt sich für betroffene Anbieter kein Umsetzungsplan schreiben.

Auffällig ist die Stoßrichtung im Vergleich zu Europa. Der AI Act klassifiziert Systeme nach Risiko, Kalifornien greift direkt in die Produktgestaltung ein: Welches Spielzeug darf sprechen, welcher Feed darf sich selbst nachladen, ab welchem Alter. Das ist näher am DSA als am AI Act.

OpenAI hatte im August eine eigene Teenager-Version von ChatGPT angekündigt. Solche Selbstverpflichtungen sind in Kalifornien jetzt gesetzliche Pflicht, während in Washington der Streit über bundesweite Leitplanken weiterläuft. Ein Bundesstaat schreibt damit die Regeln, an die sich Anbieter faktisch landesweit halten werden.