Mehr als eine Million Phishing-Mails tarnen sich mit verstecktem Text vor KI-Filtern

Barracuda Networks beschreibt die Technik als „Text-Salting“: Spam- oder Phishing-Inhalte werden mit harmlosen Wörtern oder längeren unauffälligen Textpassagen durchsetzt, damit automatische Filter den Gesamteindruck der Nachricht als weniger verdächtig bewerten. Peterson Gutierrez, Vizepräsident für Informationssicherheit bei Barracuda, sagt, die Methode wirke zwar simpel, ihre anhaltende und wachsende Nutzung zeige aber, dass sie weiterhin effektiv sei. Eine Technik, die viele eher mit der Umgehung älterer Spam-Filter verbänden, könne auch moderne KI-basierte Erkennung beeinflussen.

Den von Barracuda beobachteten Kampagnen zufolge setzen die Mails auf offensichtliche Social-Engineering-Muster. Sie versprechen Belohnungen, Punkte und Geschenkkarten und arbeiten mit zeitlichem Druck, um Klicks auf schädliche Links auszulösen. Gleichzeitig sind sie laut den Forschern bei Darstellung und Markenanmutung oft wenig aufwendig gemacht. Gerade deshalb stellt sich die Frage, warum solche Nachrichten dennoch in Postfächern landen.

Ein Teil der Antwort liegt in der Arbeitsweise von Secure Email Gateways. Diese Systeme prüfen zunächst einfache Signale wie die Legitimität der Absender-Domain und gängige Authentifizierungsverfahren. Laut Barracuda sind die beobachteten Kampagnen in diesem Punkt gemischt, aber meist ordentlich aufgestellt: Typischerweise nutzen sie DomainKeys Identified Mail, und bei den Absender-Domains handelt es sich teils um markenähnliche Adressen, teils um kompromittierte, aber legitime Websites.

Schwieriger wird es für diese Systeme bei der Inhaltsbewertung. Dort suchen sie nach verdächtigen Formulierungen, bestimmten Begriffen oder typischen Mustern wie werblicher Sprache, auffälligen Geldbezügen, fragwürdiger Formatierung, Großschreibung oder dem übermäßigen Einsatz bestimmter Zeichen. Für Menschen sind viele dieser Hinweise in den E-Mails sichtbar. Das Problem ist laut Barracuda, dass Sicherheits-Gateways nicht die visuelle Darstellung einer E-Mail sehen, sondern die maschinenlesbaren Daten darunter.

Angreifer konzentrieren sich deshalb nicht darauf, die Nachricht optisch glaubwürdig wirken zu lassen, sondern manipulieren das HTML. Verdächtige Wörter wie „dringend“ oder „Belohnungen“ werden mit harmlosen Begriffen vermischt, etwa mit neutralen Wörtern oder langen belanglosen Passagen, die spamtypische Absätze aufbrechen. Damit diese Zusätze die Opfer nicht irritieren, werden sie unsichtbar gemacht: etwa mit einer Schriftgröße von null, in einem Sichtfenster mit null Höhe und null Breite oder außerhalb des sichtbaren Bereichs, während eine horizontale Bildlaufleiste verborgen bleibt.

Moderne Sicherheitswerkzeuge kennen diese Methode und versuchen, versteckte Inhalte sichtbar zu machen, indem sie nach HTML- oder CSS-Regeln suchen, die Text vor Nutzern verbergen. Nach Darstellung von Barracuda reagieren Angreifer darauf, indem sie mehrere Verschleierungstechniken übereinanderlegen. Wenn eine Methode erkannt oder neutralisiert wird, kann eine andere weiterhin funktionieren.

Hinzu kommt laut Barracuda ein asymmetrischer Vorteil durch große Sprachmodelle. KI-Sicherheits-Engines schneiden gegen Text-Salting nicht nur schwach ab; dieselbe Technologie erleichtert Angreifern auch die Produktion solcher Mails. LLMs ermöglichen es ihnen, Texte zu erzeugen und Code schneller zu verändern, als es sonst möglich wäre. Gutierrez sagt deshalb, die Abwehr dürfe sich nicht auf verdächtige Schlüsselwörter oder offensichtliche Indikatoren beschränken. Sicherheitswerkzeuge müssten den vollständigen Kontext einer Nachricht bewerten, einschließlich des Verhältnisses zwischen sichtbarem Inhalt und verstecktem oder übermäßigem Text, den Links, dem Verhalten des Absenders und der Handlung, zu der die E-Mail auffordert.