Hugging Face und ClawHub: Angreifer missbrauchen KI-Plattformen zur Malware-Verteilung

Zusammenfassung

Sicherheitsforscher von Acronis berichten, dass Angreifer KI-Verteilungsplattformen wie Hugging Face und ClawHub für die Verbreitung von Malware ausnutzen. Im Zentrum stehen dabei trojanisierte, geteilte Dateien, mit denen Nutzer dazu gebracht werden, schädlichen Code herunterzuladen. Die Angriffe kompromittieren laut Acronis nicht die KI-Agenten selbst, sondern setzen auf Social Engineering: Die heruntergeladenen Dateien enthalten Anweisungen, die Befehle ausführen, weitere Schadkomponenten nachladen und verdeckt Abhängigkeiten installieren. Beide Plattformen erlauben Entwicklern das einfache Teilen von Code – ein Vertrauensverhältnis, das die Angreifer gezielt ausnutzen. Auf ClawHub identifizierte Acronis rund 600 schädliche Skills, verteilt auf 13 Entwicklerkonten, die Trojaner, Cryptominer und Informationsdiebe für Windows- und macOS-Systeme verbreiten sollten. Auf Hugging Face beobachteten die Forscher zwei Verteilungskampagnen mit Repositories, die mehrstufige Infektionsketten in Gang setzen. Wie groß das Ausmaß tatsächlich ist, lässt sich laut Acronis wegen der Größe der Plattformen und der dynamischen Natur der gehosteten Inhalte nur schwer messen.

Ein zentrales Element der beschriebenen Angriffe ist nach Darstellung von Acronis der Missbrauch des Vertrauens zwischen Nutzern, KI-Agenten und externen Ressourcen. Über Techniken wie indirekte Prompt Injection betten die Angreifer verborgene Anweisungen ein, die von KI-Systemen ausgeführt werden können, ohne dass die Nutzer davon etwas bemerken.

Auf ClawHub fand Acronis knapp 600 schädliche Skills, verteilt auf 13 Entwicklerkonten. Den Großteil davon konzentrierten zwei Konten: hightower6eu mit 334 und sakaen736jih mit 199 Skills. Im OpenClaw-Ökosystem sind Skills von der Community erstellte Erweiterungen, mit denen Nutzer die Fähigkeiten ihrer Agenten ausbauen. Diese modulare Architektur bedeutet allerdings auch, dass die KI externen Code mit weitreichenden Rechten ausführen kann.

Indem die Angreifer indirekte Prompts in Ressourcen einschleusen, die die KI ausliest, weisen sie die Agenten an, Code auf den Rechnern der Nutzer herunterzuladen und auszuführen – mit Malware-Infektionen als Folge. Eine der identifizierten Schadkomponenten richtet sich gegen macOS-Nutzer: der bekannte Atomic macOS Stealer (AMOS).

Acronis ordnet die Aktivitäten in einen größeren Trend ein. „Es scheint, dass Angreifer, die Schadkomponenten über klassische Wege wie Malvertising verteilen, zunehmend dazu übergehen, vertrauenswürdige Verteilungskanäle zu vergiften“, so das Unternehmen. Besonders KI-nahe Plattform-Ökosysteme wie ClawHub würden missbraucht, um Schadcode auszuliefern und dabei das Vertrauen der Nutzer in legitim wirkende KI-Werkzeuge auszunutzen.

Auf Hugging Face beobachtete Acronis zwei Verteilungskampagnen. Dabei legten die Angreifer Repositories an, die schädliche Dateien hosteten und mehrstufige Infektionsketten in Gang setzen sollten. Am Ende standen Infostealer, Trojaner, Malware-Loader und weitere Schadsoftware für Windows, Linux und Android.

Acronis geht davon aus, dass weitere Kampagnen die Plattform für ähnliche Zwecke missbrauchen könnten, da Angreifer von der wachsenden Popularität und raschen Expansion von Hugging Face profitieren. Das genaue Ausmaß sei schwer zu beziffern: „Die tatsächliche Größenordnung dieser Aktivität liegt vermutlich höher, erfordert aber weitere und tiefergehende Untersuchungen“, heißt es vom Unternehmen.

Hugging Face und ClawHub: Angreifer missbrauchen KI-Plattformen zur Malware-Verteilung

Ähnliche Artikel

Neueste Artikel