Bei dem mutmaßlich KI-erstellten Zero-Day glaubt GTIG nicht, dass Googles eigenes Modell Gemini zum Einsatz kam, schließt aber aus Struktur und Inhalt der Exploits mit hoher Sicherheit auf die Beteiligung eines KI-Modells bei Fund und Bewaffnung der Lücke. Als Indizien nennt der Bericht eine Fülle erklärender Docstrings, darunter ein halluzinierter CVSS-Wert, sowie ein strukturiertes, lehrbuchartiges Python-Format, das für LLM-Trainingsdaten typisch sei – etwa detaillierte Hilfemenüs und eine sauber gestaltete Klasse für ANSI-Farbcodes. Obwohl der Akteur die Schwachstelle offenbar im großen Stil einsetzen wollte oder will, meldete GTIG den Fehler an den zuständigen Hersteller.

Akteure mit Bezug zu China und Nordkorea zeigen laut GTIG besonderes Interesse daran, LLMs für Schwachstellenforschung zu nutzen. So beobachtete Google den mutmaßlich chinesischen Akteur UNC2814, der Gemini anwies, die Rolle eines Netzwerksicherheitsforschers einzunehmen und eingebettete Geräte wie TP-Link-Firmware auf Schwachstellen zu untersuchen – ausdrücklich mit dem Ziel, sie auf Remote-Code-Execution-Lücken (RCE) vor der Authentifizierung zu prüfen.

Der nordkoreanische Akteur Silent Chollima, auch als APT45 bekannt, verschickte demnach Tausende sich wiederholender Prompts, die verschiedene CVEs rekursiv analysieren und PoC-Exploits validieren. Das verschaffe leistungsfähigere Exploit-Fähigkeiten, als das Modell sie sonst hätte. Angreifer trainierten zudem mit einem spezialisierten Schwachstellen-Repository namens „wooyun-legacy" mit mehr als 85.000 realen Fällen, gesammelt von der chinesischen Bug-Bounty-Plattform WooYun zwischen 2010 und 2016. Auch mit agentischen Werkzeugen wie OpenClaw und OneClaw wird zur Unterstützung der Schwachstellenforschung experimentiert.

Zu den auffälligsten Beispielen zählt der Einsatz von KI zur Angriffssteuerung durch die Schadsoftware „PromptSpy". Diese Android-Hintertür, zuerst von ESET beschrieben, missbraucht Gemini, indem sie es anweist, die schädliche App in der Liste der zuletzt verwendeten Apps zu halten. Laut GTIG nutzt die Hintertür KI zudem, um die Android-Benutzeroberfläche zu navigieren und Nutzeraktivitäten in Echtzeit eigenständig auszuwerten; sie kann etwa biometrische Daten erfassen, um Authentifizierungsgesten zu wiederholen und den Zugriff auf ein kompromittiertes Gerät zurückzuerlangen.

Darüber hinaus setzen Angreifer agentische Abläufe ein, um mehrstufige Sicherheitsaufgaben autonom auszuführen. Ein Akteur mit China-Bezug nutzte solche Werkzeuge bei einem Angriff auf ein japanisches Technologieunternehmen und eine ostasiatische Cybersicherheitsplattform; Tools wie Hextrike und Strix dienten dazu, Persistenz aufrechtzuerhalten sowie Schwachstellen zu automatisieren und zu validieren. Diese Kombination aus autonomer Aufklärung und automatisierter Überprüfung deutet laut GTIG auf einen Übergang zu KI-gesteuerten Frameworks hin, die Entdeckungsaktivitäten mit minimaler menschlicher Aufsicht skalieren können.