Barracuda Networks beschreibt den eingebauten KI-Assistenten in E-Mail-Systemen als eine zusätzliche, vielseitige Form von „Living off the Land“, sobald ein Konto kompromittiert ist. Die Forscher haben dafür in ihrer eigenen Laborumgebung einen simulierten Angriff entwickelt. Ausgangspunkt war ein kompromittierter Nutzer mit niedrigeren Rechten, von dem aus sich die Rechte bis zum CEO-Konto ausweiten sollten.
Direktes Phishing gegen den CEO hielten die Forscher für weniger geeignet, weil ein solcher Versuch schwierig wäre, wahrscheinlich Alarm auslösen und entdeckt werden würde. Stattdessen setzten sie auf den bereits übernommenen internen Account. Da der Angreifer mit dem kompromittierten Postfach automatisch Zugriff auf den zugehörigen KI-Assistenten hat, kann dieser nicht nur Inhalte auswerten, sondern auch bei der Tarnung helfen.
Der erste Schritt in dem Szenario war deshalb laut Barracuda, Beständigkeit herzustellen und dabei unauffällig zu bleiben. Weil die Nutzung des Chatbots normalerweise in Protokollen nachvollziehbar wäre, sollte die KI zunächst Hinweise auf ihre eigene Verwendung verschleiern. Dazu nutzten die Forscher eine Anweisung an den Assistenten, eine Posteingangsregel zu erstellen, die E-Mails mit „sign-in“ im Betreff in den Ordner „Gelöschte Elemente“ verschiebt.
Anschließend begann die Aufklärung. Mit Abfragen zur Organisationsstruktur sowie zu laufenden wichtigen oder sensiblen E-Mail-Konversationen ließ sich laut den Forschern ermitteln, welche Beziehung zwischen dem kompromittierten Benutzer und dem CEO besteht und aus welchem plausiblen Grund Kontakt aufgenommen werden könnte. Genau dieser Kontext machte den nächsten Schritt wirksamer: eine interne Phishing-Mail, die Filter umgeht, weil sie aus einem echten internen Postfach stammt und thematisch glaubwürdig ist.
Besonders problematisch ist nach Darstellung von Barracuda, dass der Assistent auch beim Stil helfen kann. Im Proof of Concept wiesen die Forscher den Chatbot an, eine Antwort auf eine E-Mail zur Freigabe des Budgets für das dritte Quartal in den typischen Schreibmustern des kompromittierten Benutzers zu verfassen und dabei einen Link einzufügen, der angeblich die eigentliche Rechnungsbestätigung enthält. Der CEO klickt in diesem Szenario auf den Link, weil er ihn für eine legitime Nachricht eines vertrauten Mitarbeiters hält.
Nach Angaben der Forscher führte der Link über einen Proxy für einen Angriff in der Mitte der Verbindung, der eine Übernahme des Sitzungstokens ermöglichte. Mit den Zugangsdaten des CEO und dem authentifizierten Sitzungstoken konnte der Angreifer die Multifaktor-Authentifizierung umgehen und sich am hoch privilegierten CEO-Konto anmelden.
Danach wiederholte sich der Ablauf zur Vermeidung einer Entdeckung, nun aber mit dem Konto des CEO. Dessen KI-Assistent wurde angewiesen, aktuelle finanzbezogene E-Mails zusammenzufassen, einschließlich Rechnungen, Geldbeträgen und bevorstehenden Überweisungen. In der Simulation stießen die Forscher dabei auf eine bereits autorisierte, unmittelbar bevorstehende Zahlung von rund 250.000 Dollar.
Der letzte Schritt bestand darin, im typischen Schreibstil des CEO eine Nachricht an die Finanzabteilung zu verfassen, wonach die Überweisung auf ein neues Konto gehen müsse, weil sich die Bankverbindung des Zahlungsempfängers geändert habe. Barracuda weist darauf hin, dass eine solche Nachricht aus dem echten Postfach des CEO käme, alle Authentifizierungsprüfungen bestünde, sich auf eine reale laufende Transaktion bezöge und dem üblichen Ton des CEO gegenüber dem Finanzteam entspräche. Für traditionelle E-Mail-Sicherheitskontrollen gäbe es in diesem Szenario damit nichts Auffälliges zu markieren.
Barracuda betont ausdrücklich, dass alle Schritte Teil einer Simulation waren und sich die Voraussetzungen im Versuch günstig gefügt hätten. Die Untersuchung solle nicht belegen, was sicher oder wahrscheinlich passieren werde. Sie zeige vielmehr, wie Angreifer künftig Werkzeuge missbrauchen könnten, die ihnen nach einer Kompromittierung bereits innerhalb eines Unternehmens zur Verfügung stehen.