Das neue „Scam Alert“-System ist laut WhatsApp standardmäßig optional und analysiert eingehende Nachrichten von unbekannten Kontakten direkt auf dem Endgerät. Das zugrunde liegende Modell wurde dem Unternehmen zufolge mit von Nutzern gemeldeten Betrugskonversationen trainiert. Es prüft, ob eingehende Nachrichten anhand sprachlicher Signale und einer probabilistischen Auswertung der Gesprächsstruktur bekannten Betrugsmustern ähneln.
Erkennt das System einen möglichen Betrugsversuch, blendet WhatsApp im Chat eine Warnung ein. Nutzer können dann den Absender blockieren, melden oder die Unterhaltung fortsetzen. Falls eine Warnung fälschlich ausgelöst wurde, lässt sich der Chat als vertrauenswürdig markieren. In diesem Fall verschwindet die Warnung, und „Scam Alert“ kennzeichnet diese Unterhaltung künftig nicht erneut.
Wer einen Chat als vertrauenswürdig einstuft, kann laut WhatsApp zusätzlich zustimmen, die letzten fünf empfangenen Nachrichten mit dem Unternehmen zu teilen, um die Genauigkeit der Funktion zu verbessern. Zugleich betont WhatsApp, dass sowohl die vom lokalen Modell verarbeiteten Nachrichtendaten als auch das Modell selbst das Gerät nie verlassen. Die Funktion kann außerdem jederzeit deaktiviert werden.
WhatsApp ordnet „Scam Alert“ in eine Reihe weiterer Sicherheitsmaßnahmen ein. Im März hatte Meta angekündigt, dass WhatsApp Nutzer warnt, wenn Verhaltenssignale darauf hindeuten, dass eine Anfrage zur Geräteverknüpfung betrügerisch sein könnte. Solche Anfragen seien eine gängige Methode, um Konten zu kapern, indem Nutzer zum Scannen eines bösartigen QR-Codes oder zur Weitergabe eines Verknüpfungscodes verleitet werden.
Zwei Monate zuvor begann WhatsApp außerdem mit der Einführung von „Strict Account Settings“. Diese neue Sicherheitsfunktion im Stil eines Sperrmodus soll Journalisten, Personen des öffentlichen Lebens und andere besonders gefährdete Personen vor unterschiedlichen ausgefeilten Bedrohungen schützen, darunter auch Spyware-Angriffe.
Eingeführt wurde diese Schutzfunktion, nachdem zahlreiche Journalisten, Aktivisten und politische Akteure über Messaging-Apps wie WhatsApp mit Spyware infiziert worden waren, darunter auch Pegasus der NSO Group. Diese Angriffe setzten sogenannte Zero-Click-Exploits ein, mit denen iOS- und Android-Geräte ohne Interaktion der Nutzer kompromittiert werden können.
WhatsApp wird nach Unternehmensangaben von mehr als 3 Milliarden Menschen in über 180 Ländern genutzt, um mit Familie und Freunden zu kommunizieren. Vor diesem Hintergrund testet der Dienst nun, ob sich Betrugsversuche schon vor einer Interaktion mit verdächtigen Nachrichten direkt im Chat wirksam kennzeichnen lassen.