EU stuft ChatGPT als sehr große Suchmaschine ein

Die Europäische Kommission hat ChatGPT am 31. August als sehr große Online-Suchmaschine nach dem Digital Services Act eingestuft. Es ist die erste Einstufung eines generativen KI-Dienstes in dieser Kategorie. Im selben Beschluss, Pressemitteilung IP/26/1772, wurden Reddit und Roblox als sehr große Online-Plattformen benannt.

Die amtliche Liste weist für ChatGPT 159,1 Millionen monatlich aktive Nutzer in der EU aus, Stand 31. August. Reddit kommt auf 57,2 Millionen, Roblox auf 46,6 Millionen. Die Schwelle des DSA liegt bei 45 Millionen. Anbieter ist OpenAI Ireland Limited, zuständiger Koordinator für digitale Dienste damit Irland; bei Reddit ist es die Reddit Netherlands B.V., Roblox wird über einen Vertreter in den Niederlanden geführt.

Interessanter als die Zahlen ist die Abgrenzung. ChatGPT durchsucht auf Anfrage des Nutzers das Web und gilt der Kommission deshalb als Suchmaschine. Reddit und Roblox verbreiten Inhalte, die Dritte einstellen, und sind deshalb Plattformen. Daran hängt, welcher Pflichtenkatalog greift.

Ab Zustellung der Entscheidung laufen vier Monate, also bis Januar 2027. Bis dahin müssen die Dienste die systemischen Risiken bewerten und mindern, die aus dem Angebot und seinen algorithmischen Systemen entstehen. Die Kommission nennt ausdrücklich die Verbreitung illegaler Inhalte, negative Wirkungen auf Minderjährige, körperliches und seelisches Wohlbefinden, Grundrechte, Wahlprozesse und die öffentliche Sicherheit.

Für OpenAI bedeutet das zwei Aufsichtslinien auf einen einzigen Dienst. Der AI Act sagt, was ein Modell darf und was offenzulegen ist. Der DSA verlangt zusätzlich Risikobewertung, unabhängige Prüfung und Datenzugang für Forschende, mit Irland als erster Anlaufstelle. Wie sich die beiden Verfahren in der Praxis verzahnen, ist noch von keiner Behörde vorgeführt worden.

Beim Jugendschutz trifft die Einstufung auf ein Thema, das OpenAI schon im August beschäftigt hat, als es um den Umgang mit jugendlichen Nutzern ging. Und die Pflicht, die Verbreitung illegaler Inhalte zu mindern, setzt voraus, dass sich maschinell erzeugtes Material überhaupt zuordnen lässt, woran Verfahren wie Textwasserzeichen arbeiten.

Bis Januar 2027 muss der erste Risikobericht stehen. Eine Suchmaschine, deren Ergebnisliste bei jeder Anfrage neu formuliert wird, auf systemische Risiken zu prüfen, hat vor OpenAI noch niemand versucht. Die Frage, an welchem Gegenstand ein Auditor das festmachen soll, wird die Antwort mitbestimmen.