Chinas Regulator will Minderjährigen KI-Begleiter ganz verbieten

Die Cyberspace Administration of China hat am 18. September einen Entwurf mit 25 Artikeln veröffentlicht, der Onlineplattformen verbietet, Minderjährigen „virtuelle Verwandte oder Begleiter“ anzubieten. Gemeint sind KI-Companions, die eine Beziehungs- oder Intimitätsrolle spielen.

Untersagt werden sollen auch Dienste, die Minderjährige in Abhängigkeit treiben oder ihre körperliche und geistige Gesundheit schädigen können. Plattformen müssen ihre Erkennung minderjähriger Nutzer verbessern und dürfen keine Algorithmen einsetzen, die emotionale Abhängigkeit, Sucht oder übermäßige Ausgaben fördern.

Ein weiterer Punkt zielt auf soziale Netzwerke, die auf Kontakte zu Fremden ausgelegt sind: Für Minderjährige sollen sie wegfallen. Ausgenommen sind Jugendliche ab 16, die überwiegend von eigener Arbeit leben.

Ein Erstschlag ist der Entwurf nicht. Im April hatten die CAC und vier weitere Behörden bereits Vorschriften zu anthropomorphen KI-Interaktionsdiensten erlassen, Chinas erste KI-Companion-Regel trat am 15. Juli in Kraft. Was jetzt kommt, ist die Jugendschutz-Ergänzung dazu.

Zwei Dinge sind offen, und wir sagen das lieber, als sie zu überspielen: Die genaue Konsultationsfrist ist nicht geklärt, und den amtlichen Text der CAC konnten wir nicht im Original gegenlesen. Die Angaben stützen sich auf die South China Morning Post und zwei Kanzlei- beziehungsweise Fachanalysen.

Interessant wird der Kontrast zum europäischen Weg. Der EU Kids Act schreibt vor, wie KI-Begleiter für Jugendliche gebaut sein müssen, Peking streicht sie für diese Gruppe ganz. Auch Kaliforniens Jugendschutzgesetz setzt auf Auflagen statt auf ein Verbot. Nur hängen alle drei Ansätze an derselben Frage: Woher weiß die Plattform, dass da ein Vierzehnjähriger sitzt?