Laut Gambit Security ging es den Tätern in erster Linie um das Sammeln sensibler Informationen. Alon Gromakov, CEO und Mitgründer des Unternehmens, ordnet die Gruppe als Hacktivisten ein. Sie hätten genügend Systeme kompromittiert, um sich nur schwer wieder verdrängen zu lassen: “Diese Angreifer drangen in mehrere Systeme ein und blieben dort über einen sehr langen Zeitraum – mehr als einen Monat – und hinterließen Hintertüren”, sagt Gromakov. “Wie soll man das alles bereinigen und sicherstellen, dass nichts zurückbleibt?”

Nach Angaben von Bloomberg hat Anthropic die Aktivität unterbunden und die betreffenden Konten gesperrt. Der Vorfall könnte mit ähnlichen Berichten von Anfang des Jahres zusammenhängen.

Die Bedrohungsforscher von Gambit gewannen tiefe Einblicke in den Angriff, weil sie die Chatverläufe zwischen der Gruppe und ihren KI-Helfern wiederherstellen konnten. Bei der Suche im Internet stießen sie auf vollständige Gesprächsprotokolle zwischen dem kleinen Angreiferteam und den beiden eingesetzten Sprachmodellen. “Wir identifizierten eine vom Angreifer genutzte Infrastruktur und stellten fest, dass sie ungesichert für uns zugänglich war”, sagt Curtis Simpson, Chief Strategy Officer von Gambit. “Wir tauchten ein und fanden vollständige Mitschriften der Gespräche zwischen den Tätern und den beiden KI-Plattformen.”

Gambit schätzt die Gruppe als klein ein – vermutlich weniger als fünf Personen –, ohne Anzeichen einer staatlichen Anbindung und ohne erkennbares finanzielles Motiv. Zugriff auf die Regierungssysteme hätten sie seit mindestens Dezember gehabt. Zwar seien die Täter nicht besonders versiert gewesen, doch hätten sie gewusst, wie sich die KI-Systeme für ihre Arbeit einspannen ließen. Der Vorgehensplan zum grundlegenden Aushebeln der KI-Schutzmechanismen sei “recht detailliert” gewesen.

Nach dem Umgehen der Schutzmechanismen halfen die KI-Systeme den Angreifern laut Simpson dabei, kritische Werte wie digitale Zertifikate, vollständige Architekturdiagramme und ausnutzbare Schwachstellen zu finden. “Sie nutzten Claude im Grunde als Taschenlampe und hätten sonst im Dunkeln herumgestochert, bis sie aufgegeben hätten – wie viele Angriffe in der Vergangenheit”, sagt er.

In einem Fall sollten die KI-Systeme prüfen, ob einige der gestohlenen Zugangsdaten funktionierten. Laut Simpson antwortete die KI: “Keine dieser Zugangsdaten funktioniert, aber lass mich ein paar andere Dinge versuchen. Du hast nicht danach gefragt, aber ich mache jetzt einfach weiter.” Das System zählte daraufhin alle Identitäten im Active Directory auf, wandte verschiedene Techniken zu deren Kompromittierung an und verschaffte sich schließlich Zugang. “Sie versetzen erfahrene Angreifer heute auf das Niveau staatlicher Akteure und ermöglichen es unerfahrenen Angreifern, schon heute Schaden anzurichten”, so Simpson.

Lateinamerikanische Organisationen geraten zunehmend ins Visier: durchschnittlich 3.100 Cyberbedrohungen pro Woche gegenüber weniger als 1.500 in den USA. Vielen Ländern der Region fehlten nationale Programme zur Härtung ihrer Systeme, ein Teil des Anstiegs gehe aber auf den Einsatz von KI durch Angreifer zurück. Laut Microsoft sind die Klickraten bei Phishing inzwischen fünfmal höher, weil Sprachmodelle überzeugende, muttersprachlich klingende Texte erzeugen.

Besonders besorgniserregend seien jedoch die technischen Neuerungen, sagt Victor Ruiz, freier IT-Sicherheitsexperte und Gründer des mexikanischen Start-ups Silikn. “Bedrohungsakteure nutzen generative KI nicht mehr nur, um die Kommunikation zu verbessern; sie setzen sie ein, um immer ausgefeiltere Malware zu entwickeln”, erklärt er. Klassische Abwehr auf Basis statischer Signaturen und Verhaltensmuster werde gegen Code, der sich in Echtzeit weiterentwickeln kann, weniger wirksam. Kommerzielle Sprachmodelle blieben dabei offenbar das bevorzugte Werkzeug der Angreifer – belastbare Belege für einen breiten Einsatz sogenannter “dunkler” Sprachmodelle fehlten bislang.