Gaslight: Neue macOS-Malware soll KI-Analysewerkzeuge in die Irre führen

Zusammenfassung

Mit „Gaslight“ haben Forscher von SentinelOne eine neu entdeckte macOS-Malware beschrieben, die gezielt KI-gestützte Werkzeuge zur Malware-Analyse und zum Reverse Engineering irritieren soll. In der ausführbaren Datei stecken Prompt-Injection-Zeichenfolgen und fingierte Debug-Daten, die Analysewerkzeuge zu der Annahme verleiten sollen, bei der Untersuchung sei ein Fehler aufgetreten oder die Sitzung sei anderweitig unzuverlässig. Laut SentinelOne geht es dabei nicht darum, die Ausführung in einer Sandbox zu umgehen, sondern Systeme zu verwirren, die Zeichenketten während einer automatisierten Analyse auslesen. Das Unternehmen schreibt die Malware mit hoher Sicherheit einem mit Nordkorea verbundenen Bedrohungsakteur zu. Technisch handelt es sich um eine in Rust geschriebene Binärdatei mit Backdoor- und Datendiebstahl-Funktionen, wie sie auch bei ähnlicher Malware vorkommen. Auffällig ist vor allem ein 3,5-KB großer Payload mit 38 gefälschten „System“-Meldungen, die direkt in die Binärdatei eingebettet sind.

Nach Angaben von SentinelOne tarnt Gaslight seine irreführenden Inhalte als Entwicklerprotokolle, Absturzberichte, Debug-Ausgaben und Programmmeldungen. Die Texte nutzen Markdown-Formatierung und vorlagenartige Platzhalter, damit sie wie legitime Analysedaten wirken.

Zu den von SentinelOne beobachteten Beispielen gehören erfundene Speicherauszüge, Warnungen über ablaufende Token, Verbindungsfehler zu Redis, Fehler in Build-Pipelines und Hinweise auf SQL-Injection. Diese Meldungen stehen laut den Forschern in keinem Zusammenhang mit dem tatsächlichen Verhalten der Malware.

SentinelOne beschreibt die Technik als Angriff auf die Wahrnehmung eines LLM-gestützten Triage-Agenten. Die auffälligste Eigenschaft sei „eine eingebettete Kaskade fingierter Meldungen über Systemfehler, die einen LLM-gestützten Triage-Agenten an seiner eigenen Sitzung zweifeln lassen soll“. Deshalb habe das Unternehmen diese Familie macOS.Gaslight genannt.

Weiter erklären die Forscher, das eingebettete Gerüst enthalte gefälschte Systemmeldungen zu Token-Ablauf, durch Speichermangel beendeten Prozessen, erschöpftem Speicherplatz und wiederholten Betriebsfehlern. Hinzu kämen fingierte Warnungen über Injection-Schwachstellen und Kennzeichnungen aus der statischen Analyse. Das Ziel sei, einen LLM-Agenten dazu zu bringen, die Analyse abzubrechen, zu verkürzen oder ganz zu verweigern.

Einen praktischen Nachweis, dass sich damit KI-Plattformen zur Malware-Analyse tatsächlich erfolgreich umgehen lassen, hat SentinelOne in dem Bericht nicht erbracht. Die Beobachtungen legen aus Sicht des Unternehmens aber nahe, dass Bedrohungsakteure mit Anti-Analyse-Methoden experimentieren, die speziell auf KI-gestützte Sicherheitsplattformen zielen.

Abseits dieser Täuschungstechnik ist die Malware selbst vergleichsweise vertraut aufgebaut. SentinelOne beschreibt Gaslight als Rust-Binärdatei mit Backdoor- und Informationsdiebstahl-Funktionen, wie sie bei ähnlicher Malware häufig vorkommen. Der besondere Aspekt liegt damit weniger in den Grundfunktionen als in der Art, wie die Probe automatisierte, KI-unterstützte Auswertung beeinflussen soll.

Gaslight: Neue macOS-Malware soll KI-Analysewerkzeuge in die Irre führen

Ähnliche Artikel

Neueste Artikel