Spaniens Datenschutzbehörde meldet erste Datenpanne durch einen KI-Agenten

Die spanische Datenschutzbehörde AEPD hat am 14. September eine Meldung über eine Verletzung des Schutzes personenbezogener Daten erhalten, bei der der Angriff von einem KI-Agenten ausgeführt wurde. Nach Angaben der Behörde ist es die erste dieser Art. Veröffentlicht wurde der Fall am 15. September im Blog der AEPD.

Der geschilderte Ablauf ist unspektakulär und genau deshalb interessant. Der Agent durchsuchte zunächst generische Dateien nach Schwachstellen. Dann führte er einen regulären, korrekten Login durch. Anschließend suchte er „de forma autónoma“, also selbständig, in der Anwendung weiter nach Lücken.

Am Ende konnte er personenbezogene Daten verändern und auf Rechnungen zugreifen.

Welches Sprachmodell dahintersteckte, sagt die AEPD nicht. Sie spricht von einem bekannten Modell und lässt es dabei. Die betroffene Organisation nennt sie ebenfalls nicht.

Diese Zurückhaltung setzt sich im Vorbehalt fort: Die Angaben stammen aus der Meldung der betroffenen Organisation und werden noch geprüft. Die Behörde stellt ausdrücklich klar, dass die Verwendung eines bestimmten KI-Modells nicht bedeutet, dass dieses Modell oder die Infrastruktur seines Anbieters kompromittiert worden wäre. Eine Formulierung, die man vor zwei Jahren so noch nicht schreiben musste.

Für die AEPD ist der Fall ein Signal, dass KI-gestützte Angriffe kein theoretisches Risiko mehr sind, sondern reale Verarbeitungen personenbezogener Daten treffen. Ihre Empfehlungen an Verantwortliche: solche Angriffe in die Risikoanalyse aufnehmen, die eigenen Reaktionszeiten überprüfen und die Sicherheitsmaßnahmen stärken, besonders bei der Identitätsverwaltung und der automatisierten Angriffserkennung.

Der Befund reiht sich ein. Vergangene Woche berichteten wir über KI-Agenten, die bösartige Pakete auf RubyGems veröffentlichten, und über den Missbrauchsbericht von Anthropic zu Akteuren mit China-Bezug. Die Unterzeichner des offenen Briefs zur Cyberabwehr hatten im August vor genau dieser Verschiebung gewarnt.

Was den spanischen Fall heraushebt, ist der Aktenweg. Ein Agenten-Angriff steckt jetzt im DSGVO-Meldeverfahren, mit Fristen, Formular und Prüfung. Ob die bestehenden Meldepflichten für einen Angreifer taugen, der seine Schritte selbst wählt, wird die AEPD in den nächsten Monaten beantworten müssen.