Bei WhatsApp wird nach dem Aktivieren von Scam Alert ein Modell auf das Endgerät geladen, das eingehende Nachrichten auf Muster bekannter Betrugsversuche prüft. Dabei berücksichtigt es laut Unternehmen Gesprächsstruktur und sprachliche Hinweise. Wird eine Nachricht als verdächtig eingestuft, sieht nur der Empfänger einen Warnhinweis im Chat; der Absender erhält darüber keine Information.
Nutzer können den Kontakt dann blockieren, die Nachricht melden, die Warnung ignorieren oder die Unterhaltung als vertrauenswürdig markieren, sodass künftige Hinweise unterdrückt werden. Wer einen Chat als vertrauenswürdig einstuft, kann separat entscheiden, die letzten fünf empfangenen Nachrichten zu teilen, um die Genauigkeit des Modells zu verbessern.
Um zu verhindern, dass einer einzelnen Person gezielt ein bestimmtes Modell ausgeliefert wird, muss nach Angaben von WhatsApp jede Modellversion vor der Verteilung in einem unveränderlich fortgeschriebenen Transparenzprotokoll eines Drittanbieters erfasst werden. Zu jeder Freigabe gehört ein Manifest mit SHA-256-Hashes für die Modellgewichte und zugehörige Dateien. Der Digest dieses Manifests wird mit Ed25519-Schlüsseln signiert, die bei Cloudflare und nicht bei Meta liegen. Geräte prüfen die Signatur, gleichen sie mit dem Protokoll ab und verifizieren, dass die geladenen Dateien den veröffentlichten Hashes entsprechen, bevor das Modell ausgeführt werden darf.
Da keine Nachrichteninhalte das Gerät verlassen, hat WhatsApp nach eigenen Angaben eine vertrauliche föderierte Analyse-Pipeline entwickelt, um die Funktionsweise des Systems zu bewerten. Erfasst werden dabei nur zwei Datenkategorien: wie oft Warnungen ausgelöst wurden und welche Aktion Nutzer anschließend gewählt haben, etwa Blockieren oder das Markieren eines Chats als vertrauenswürdig.
WhatsApp beschreibt zudem ein Bedrohungsmodell, das externe Angreifer, kompromittierte Insider in der Infrastruktur und Risiken in der Lieferkette umfasst. Die Schutzmaßnahmen der Analyse-Pipeline sollen laut Unternehmen sicherstellen, dass für einen gezielten Zugriff auf die Daten eines einzelnen Nutzers das gesamte System kompromittiert werden müsste. In der App soll außerdem ein Transparenzprotokoll einsehbar sein, erreichbar über Konto > Informationen anfordern > Scam-Alert-Aktivität. Dort wird angezeigt, welche Nachrichten gescannt wurden, wie das Ergebnis ausfiel und welche Modellversion die Entscheidung getroffen hat. Außerdem erweitert WhatsApp sein Bug-Bounty-Programm auf Scam Alert. Das Unternehmen bezeichnet die Veröffentlichung ausdrücklich als frühe technische Vorschau und nicht als fertiges Produkt.
Signal führt derweil eine automatische Schlüsselprüfung ein, die das bisherige Verfahren mit Sicherheitsnummern ergänzt. Anders als die manuelle Prüfung, die ein persönliches Treffen oder einen zweiten Kommunikationskanal voraussetzt, läuft die neue Verifikation selbstständig über Prüfungen durch den Nutzer, den Kontakt und unabhängige Auditoren.
Die Funktion soll Fälle erkennen, in denen der öffentliche Schlüssel eines Signal-Kontos ohne Wissen des Besitzers ausgetauscht wird. Signal nennt als Beispiel ein Szenario, in dem ein Angreifer die Infrastruktur des Dienstes kompromittiert und einem Ziel eine andere Schlüsselbindung zur Telefonnummer zuweist. Auslösen lässt sich die Prüfung im Profil eines Kontakts über „Sicherheitsnummer anzeigen“ und dann „Automatisch verifizieren“ im Bereich der automatischen Schlüsselprüfung. Ein grünes Häkchen mit „Verschlüsselung verifiziert“ bestätigt eine Übereinstimmung.
Technische Grundlage ist ein von Signal als Schlüsseltansparenz bezeichnetes System, das jede Registrierung sowie jede Änderung von Telefonnummer und Benutzername in einem kryptografisch verifizierbaren Protokoll festhält. Cloudflare und Trail of Bits fungieren als unabhängige Prüfer dieses Protokolls. Alle Kennungen und Schlüssel darin werden mit einer verifizierbaren Zufallsfunktion und einer schlüsselgebundenen Hashfunktion verschleiert, sodass auch die Auditoren keine Nutzerdaten im Klartext sehen. Die Funktion ist standardmäßig aktiv, kann aber unter Privatsphäre > Erweitert > Automatische Schlüsselprüfung deaktiviert werden.