Google stützt seine Einschätzung auf konkrete Merkmale des Codes. Laut GTIG enthält das Skript auffällig viele lehrbuchartige Docstrings, darunter einen erfundenen, also halluzinierten CVSS-Wert, und folgt einem strukturierten, „lehrbuchhaften" Python-Stil, wie er für die Trainingsdaten großer Sprachmodelle typisch ist.

Welches Sprachmodell (LLM) für die schädliche Aufgabe verwendet wurde, ist unklar. Google schließt jedoch aus, dass das eigene Modell Gemini beteiligt war. Als zusätzliches Indiz für den Einsatz von KI führen die Forscher die Art der Schwachstelle an: Es handele sich um einen semantischen Logikfehler auf hoher Ebene, wie ihn KI-Systeme besonders gut erkennen — anders als Speicherfehler oder Probleme bei der Eingabevalidierung, die üblicherweise durch Fuzzing oder statische Analyse auftauchen. Google informierte den Hersteller über die Bedrohung, woraufhin der Angriff unterbunden werden konnte.

Über diesen Einzelfall hinaus verweist Google darauf, dass chinesische und nordkoreanische Gruppen — genannt werden APT27, APT45, UNC2814, UNC5673 und UNC6201 — KI-Modelle für die Suche nach Schwachstellen und die Entwicklung von Exploits einsetzen. Das knüpft an Beobachtungen aus dem Februar-Bericht an. Russland zugeordnete Akteure nutzten demnach KI-generierten Täuschungscode, um Schadsoftware wie CANFAIL und LONGSTREAM zu verschleiern.

In einer als „Overload" bezeichneten russischen Operation setzten Akteure des Social Engineering geklonte Stimmen ein, um in gefälschten Videos echte Journalisten zu imitieren und eine ukrainefeindliche Erzählung zu verbreiten.

Auch die Android-Backdoor PromptSpy, die ESET in diesem Jahr dokumentiert hat, wird im Google-Bericht erwähnt: Sie bindet Gemini-APIs ein, um autonom mit dem Gerät zu interagieren. Google fand zudem ein autonomes Agentenmodul namens „GeminiAutomationAgent", das über einen fest einprogrammierten Prompt arbeitet. Diesem Prompt komme die Aufgabe zu, dem Modell eine harmlose Rolle zuzuweisen, um dessen Sicherheitsfunktionen zu umgehen. Ziel sei es, die Geometrie der Benutzeroberfläche zu berechnen, damit PromptSpy auf verschiedene Weisen mit dem Gerät interagieren kann. Den Forschern zufolge nutzt die Malware KI-Fähigkeiten zudem, um die Authentifizierung auf dem Gerät nachzuspielen — sei es ein Entsperrmuster oder eine PIN.

Google warnt schließlich, dass Bedrohungsakteure den Zugang zu kostenpflichtigen KI-Modellen industrialisieren: über automatisierte Kontoerstellung, Proxy-Relays und Infrastruktur zum Bündeln von Konten.