Der entscheidende Kunstgriff der Kampagne lag nicht in der Masse, sondern in der Inszenierung: Jede Phishing-Mail samt Rechnung war in einen gefälschten E-Mail-Verlauf eingebettet. Der Angreifer konstruierte einen kurzen Schriftwechsel, der vor dem Eintreffen der Nachricht stattgefunden haben sollte – zwischen einer Führungskraft des Zielunternehmens und dem Präsidenten von ServiceNow. Darin bat die vermeintliche Führungskraft ihren Kontakt bei ServiceNow, die Rechnung direkt an den Mitarbeiter in der Finanzabteilung weiterzuleiten.
Um den erfundenen Austausch glaubwürdiger zu machen, ermittelten die Angreifer CEOs, CFOs und Präsidenten der angeschriebenen Organisationen und setzten deren Namen in die Signaturen der Phishing-Mails ein – eine Aufgabe, die sich ohne großen Aufwand an einen Chatbot delegieren lässt.
Genau darin liegt laut Merium Khalid, Director für KI und Automatisierung im Office of the CTO bei Barracuda Networks, der Bruch mit früheren Kampagnen: „Informationen über eine Zielorganisation zu sammeln, ist heute eine Sache von Minuten." KI könne öffentlich verfügbare Quellen wie Unternehmenswebsites, Angaben zu Führungskräften, Mitarbeiterrollen und Pressemitteilungen in kurzer Zeit auswerten und diesen Kontext nutzen, um überzeugendere Imitationsmails zu bauen. Angreifer könnten zudem mehrere KI-gestützte Abläufe für verschiedene Kampagnenteile aufsetzen – von der Informationsbeschaffung über die Erzeugung personalisierter Inhalte bis hin zu Vorlagen, die sich auf unterschiedliche Zielorganisationen anwenden lassen.
Bislang konnten Phishing-Akteure entweder generische Massenmails verschicken oder wenige ausgewählte Ziele individuell ansprechen. Die von Microsoft dokumentierte Kampagne kombiniert beides – über eine Million Nachrichten, jede auf ihren Empfänger zugeschnitten.
Fachleute warnen davor, daraus eine völlig neue Bedrohungsklasse abzuleiten. „Neue KI-native Bedrohungen wie gegnerische Agenten und Prompt Injection werden neue Risiken schaffen, aber Phishing, Identitätsimitation und Betrug haben bereits erprobte Erfolgswege", sagt Joshua Bartolomie, Vice President und globaler Leiter Threat Intelligence bei Doppel, gegenüber Dark Reading. KI mache diese Angriffe schneller, billiger, personalisierter und leichter skalierbar. Als Beispiel nennt er nahezu zeitgleich laufende Imitationskampagnen über mehrere Kanäle hinweg, die sich in zwei Jahren etwa versiebenfacht hätten. Das größere kurzfristige Risiko sei „nicht unbedingt ein neuer Angriff, sondern die Industrialisierung wirksamer Angriffe".
Entsprechend konventionell fallen die Gegenmaßnahmen aus. In seinem Blogbeitrag empfiehlt Microsoft, E-Mail-Authentifizierung und Spoofing-Schutz korrekt zu konfigurieren, Filter für E-Mail-Sicherheit einzusetzen und Extended Detection and Response (XDR) zu implementieren – von KI-gestützten Abwehrtechnologien ist dort kaum die Rede.
Khalid plädiert für eine Mischung aus Grundlagenarbeit und moderner Werkzeugausstattung: Standardfilter könnten schädliche Artefakte in eingehenden Nachrichten erkennen, KI-gestützter E-Mail-Schutz diese Signale in Maschinengeschwindigkeit auswerten. „KI ist kein Ersatz für grundlegende Sicherheitspraktiken", sagt sie. Die beste Verteidigung sei mehrschichtig: solide Hygiene und Prozesse, geschulte Mitarbeiter und Sicherheitstechnik, die im Tempo der Angreifer erkennen und reagieren kann.