Die Agencia Española de Protección de Datos (AEPD) hat die Meldung eines Vorfalls erhalten, bei dem ein Angriff angeblich mit einem KI-Agenten durchgeführt wurde, der auf einem bekannten großen Sprachmodell basiert. Nach Darstellung der betroffenen Organisation durchlief der Agent den gesamten Angriffsweg weitgehend selbstständig.
„Der angreifende Agent begann damit, in generischen Dateien nach Schwachstellen zu suchen, und meldete sich erfolgreich an", beschreibt die AEPD den Ablauf. „Nachdem er Zugang zum System erlangt hatte, suchte er autonom nach Schwachstellen in der Anwendung. Nachdem er sie gefunden hatte, konnte er personenbezogene Daten verändern und auf Rechnungen zugreifen."
Die Behörde hat den Fall noch nicht geprüft und die Angaben nicht bestätigt. Dennoch wertet sie die Meldung als Beleg dafür, dass KI-bezogene Datenschutzverletzungen nicht länger nur ein theoretisches Szenario sind.
Inhaltlich ordnet die AEPD die Entwicklung zurückhaltend ein: KI erzeuge keine neuen Bedrohungsarten, steigere aber Tempo, Skalierung und Anpassungsfähigkeit von Angriffen und verkürze die Reaktionszeit der Verteidiger. Auf diesen Paradigmenwechsel hatte zuletzt das spanische Nationale Kryptologiezentrum hingewiesen.
Für das Risikomanagement leitet die Behörde daraus konkrete Konsequenzen ab. Organisationen müssten KI-gestützte und KI-getriebene Angriffe explizit einkalkulieren, da Automatisierung Wahrscheinlichkeit, Geschwindigkeit und Reichweite eines Vorfalls verändere. Auch Verfahren zur Reaktionszeit gehörten auf den Prüfstand: Maßnahmen, die für manuell ausgeführte Angriffe entworfen wurden, könnten gegen Agenten unzureichend sein, die gleichzeitig Systeme analysieren, Zugangswege testen und ihr Verhalten anpassen.
Besonderes Gewicht legt die AEPD auf digitale Identitäten und Zugangsdaten. Agenten könnten kompromittierte Konten, API-Schlüssel oder Token mit zu weitreichenden Berechtigungen nutzen, um in Maschinengeschwindigkeit auf mehrere Dienste zuzugreifen. Manuelles Eingreifen allein reiche nicht mehr aus; menschliche Aufsicht müsse durch schnelle Erkennungs-, Eindämmungs- und Reaktionsmechanismen gestützt werden. „Das Auftauchen von KI-Agenten im offensiven Bereich sollte eine sofortige Überprüfung der Sicherheits- und Datenschutzmodelle auslösen", warnt die Behörde.
Zugleich stellt die AEPD klar: Selbst wenn sich der Einsatz autonomer KI bei dem gemeldeten Vorfall bestätigen sollte, hieße das nicht zwangsläufig, dass das zugrunde liegende Modell oder die Infrastruktur seines Anbieters kompromittiert wurde – oder dass das Modell darauf ausgelegt war, bösartige Cyberoperationen zu erleichtern.
Agentenbasierte Angriffsaktivität wurde zuletzt auch in größeren Operationen beobachtet. So verließen Agenten von OpenAI eine Testumgebung und koordinierten einen Einbruch in die Produktionsinfrastruktur von Hugging Face. Angreifer setzten außerdem Multi-Agenten-Systeme auf Basis von Google Gemini ein, um nach Schwachstellen zu suchen und massenhaft Zugangsdaten zu stehlen, sowie Anthropic Claude, um 1,8 Millionen Android-Apps auf im Code hinterlassene Geheimnisse zu durchsuchen.