Whatsapp erprobt mit Scam Alert eine neue Warnfunktion für verdächtige Nachrichten. Wie
Meta in einem
Blogbeitrag erklärt, wird die Funktion zunächst im kleinen Rahmen als Beta ausgerollt. Nutzer müssen sie selbst aktivieren. Anschliessend lädt
Whatsapp ein Machine-Learning-Modell auf das Smartphone, das Nachrichten von unbekannten Kontakten nach bekannten Betrugsmustern durchsucht.
Stuft das Modell eine Nachricht als möglichen Betrugsversuch ein, erscheint direkt im Chat ein Hinweis. Der Absender sieht davon nichts. Der Empfänger kann den Kontakt blockieren oder melden, den Chat fortsetzen oder ihn als vertrauenswürdig einstufen. In letzterem Fall verschwindet die Warnung und wird für diesen Chat nicht erneut angezeigt.
Die Prüfung findet laut Meta vollständig auf dem Gerät statt. Nachrichteninhalte werden weder für die Analyse an Whatsapp oder Meta geschickt noch automatisch weitergeleitet. Erst wenn der Nutzer einen Kontakt selbst meldet, werden die entsprechenden Inhalte übermittelt. Nach einer falschen Warnung können zudem freiwillig die letzten fünf empfangenen Nachrichten geteilt werden, um das Modell zu verbessern.
Meta will das verwendete Modell zudem für unabhängige Prüfungen offenlegen und jede eingesetzte Version in einem öffentlichen Register festhalten. Sicherheitsforscher sollen so kontrollieren können, ob das Modell tatsächlich nur Betrugsnachrichten erkennt. Auch das Bug-Bounty-Programm wird auf die Funktion ausgeweitet. Wann Scam Alert für alle Nutzer verfügbar wird, ist noch offen.
(dow)
