Dass KI bei der Entwicklung des Exploits im Spiel war, leitet Google aus Struktur und Inhalt des Codes ab. „Obwohl wir nicht glauben, dass Gemini verwendet wurde, gehen wir auf Basis von Struktur und Inhalt dieser Exploits mit hoher Sicherheit davon aus, dass der Akteur wahrscheinlich ein KI-Modell genutzt hat, um die Entdeckung und Bewaffnung dieser Schwachstelle zu unterstützen“, erklärte das Unternehmen.

Als Indizien nennt Google unter anderem die auffällige Machart des Skripts: Es enthalte eine Fülle erklärender Docstrings, darunter einen halluzinierten CVSS-Wert, und folge einem strukturierten, lehrbuchartigen Python-Stil, der stark für Trainingsdaten großer Sprachmodelle charakteristisch sei — etwa detaillierte Hilfemenüs und eine sauber gestaltete Klasse für ANSI-Farbcodes.

Über diesen Einzelfall hinaus hebt Google hervor, dass staatlich unterstützte Akteure aus China und Nordkorea besonderes Interesse daran zeigten, KI für die Entdeckung von Schwachstellen einzusetzen. So sei ein mit China in Verbindung gebrachter Akteur dabei beobachtet worden, agentische Werkzeuge wie Strix und Hexstrike bei Angriffen auf ein japanisches Technologieunternehmen und ein großes ostasiatisches Cybersicherheitsunternehmen einzusetzen.

Die chinesische Gruppe UNC2814, bekannt für Angriffe auf Telekommunikations- und Regierungsorganisationen, nutzte laut Google einen personengestützten Jailbreak: Dabei wird die KI angewiesen, als leitender Sicherheitsauditor zu agieren, um die Schwachstellenforschung an eingebetteten Geräten zu verbessern — darunter TP-Link-Firmware mit OFTP-Implementierungen.

Die nordkoreanische Gruppe, die Google als APT45 führt, verschickte den Angaben zufolge tausende sich wiederholende Prompts, um CVEs rekursiv zu analysieren und Proof-of-Concept-Exploits zu validieren. „Das führt zu einem robusteren Arsenal an Exploit-Fähigkeiten, das ohne KI-Unterstützung kaum zu bewältigen wäre“, heißt es im Bericht.

Der vollständige Bericht behandelt darüber hinaus autonome Malware-Operationen, KI-gestützte Umgehung von Abwehrmaßnahmen, Angriffe auf Lieferketten sowie Bedrohungsakteure, die sich privilegierten Zugang zu großen Sprachmodellen verschaffen wollen.