Nach Darstellung von Giovannoni löst das bloße Löschen von Betrugsnachrichten das Grundproblem nicht. Selbst wenn ein einzelner Empfänger nicht auf den Trick hereinfällt, kann dieselbe Nachricht weiterhin andere täuschen. ScamBuster soll deshalb die Rollen umkehren: Statt die E-Mail zu verwerfen, antwortet das System dem Betrüger mit einer KI-gesteuerten Figur, die wie ein potenzielles Opfer wirkt.
Diese Persona kann laut Giovannoni sehr unterschiedlich ausfallen, etwa eine ältere Witwe, ein Kleinunternehmer, eine stark eingespannte Führungskraft oder ein überforderter Tourist. Sobald eine betrügerische Nachricht eingeht, übernimmt die passende Rolle das „Gespräch“. Der Angreifer glaubt dann, ein geeignetes Ziel gefunden zu haben, kommuniziert tatsächlich aber mit einem intelligenten System, das Informationen sammeln soll.
Im Mittelpunkt stehen laut Giovannoni sogenannte Indikatoren. Dazu zählen etwa die Internationale Bankkontonummer eines Finanzinstituts, Zahlungs-Domains oder Vorwahlen von Telefonnummern. ScamBuster verknüpft solche Merkmale miteinander und bündelt sie, wenn es Überschneidungen gibt. So soll ein Profil eines Cyberkriminellen entstehen. Was wie Dutzende voneinander getrennte Betrugs-E-Mails aussehe, könne sich auf dieselben wenigen Nummern und dieselbe Zahlungs-Domain zurückführen lassen, sagt Giovannoni gegenüber Dark Reading.
Das System wartet nach seinen Angaben gezielt auf den Moment, in dem der Betrüger eine Zahlung verlangt. Dann zieht ScamBuster die relevanten Daten aus der Kommunikation, strukturiert sie und exportiert sie in Formaten, die Sicherheitswerkzeuge und Threat-Intelligence-Teams direkt verarbeiten können: STIX 2.1 und MISP. Zu den Informationen, die sich so gewinnen lassen sollen, zählen laut Giovannoni das Konto, auf das Geld überwiesen werden soll, eine Telefonnummer und die Art, wie Zahlungen weitergeleitet werden.
Unter der Haube arbeitet ScamBuster mit einer Gruppe von Large-Language-Model-Agenten. Diese führen die Unterhaltung, bewerten, was der Betrüger preisgibt, und speichern die Ergebnisse als strukturierte Bedrohungsinformationen. Aus diesen Daten leitet das System auch ab, welche Persona es bei der nächsten Begegnung einsetzen sollte.
Giovannoni zufolge lernt ScamBuster dabei fortlaufend, welche Rolle gegen welche Art von Betrug am besten funktioniert, und passt seinen Ansatz eigenständig an. Der Unterschied zwischen der erfolgreichsten und der erfolglosesten Persona liege beim Gewinnen von Informationen um den Faktor 5,5. Das sei kein kleines Feintuning, sondern entscheide darüber, ob ein Gespräch fünf Indikatoren liefere oder fast keine.
Bei den Kosten setzt Giovannoni nach eigenen Angaben bewusst auf ein kleines, günstiges kommerzielles Modell, konkret GPT-4o-mini, um die laufenden Ausgaben auf „nahe null“ zu halten. Zugleich sei ScamBuster nicht an ein einzelnes KI-Modell gebunden. Betreiber könnten stattdessen das Modell ihrer Wahl anbinden, etwa von OpenAI, Anthropic, Llama oder ein Open-Source-LLM.
Der vollständige Produktiv-Code von ScamBuster soll auf der Black Hat am Mittwoch, dem 5. August, unter der MIT-Open-Source-Lizenz veröffentlicht werden. Zudem arbeitet Giovannoni nach eigenen Angaben an Erweiterungen, damit das System künftig auch Vishing- und Smishing-Angriffe unterstützt.