WhatsApp будет выявлять мошенников
Компания Meta запускает (через The Verge) новую функцию "Предупреждение о мошенничестве" (Scam Alert) в мессенджере WhatsApp, использующей алгоритмы искусственного интеллекта для обнаружения потенциально мошеннических сообщений.
Система работает непосредственно на устройстве и предназначена для предупреждения риска до того, как пользователь взаимодействует с подозрительными сообщениями. Модель обучена шаблонам, выявленным в диалогах с признаками мошенничества, которые поступали компании в жалобах от пользователей. Она определяет возможность мошенничества на основе структуры разговора и лингвистических сигналов.
По словам компании, когда алгоритмы определяют сообщения как возможные попытки мошенничества, в чате появляется предупреждение, которое видит только пользователь. Далее он может выбрать одно из действий: заблокировать собеседника, сообщить о проблеме или продолжить общение.
Если пользователь считает, что сообщение было ошибочно отмечено, он может добавить чат в список доверенных, после чего система больше не будет его проверять. Компания также предоставляет возможность добровольной отправки последних 5 полученных сообщений в WhatsApp для улучшения точности работы модели.
Meta отмечает, что ни одно содержимое сообщений не оставляет устройство пользователя для классификации, когда Scam Alert включен, а автоматическая отправка данных в компанию или другие структуры не осуществляется.
Функция включается и отключается в настройках и пока доступна в формате ограниченного бета-тестирования.
The Verge сообщает , что по данным Федеральной торговой комиссии США, только в 2025 году пользователи WhatsApp потеряли $425 миллионов из-за мошеннических схем, что стало частью общего убытка более чем в $2,1 миллиарда от мошенничества в социальных сетях. Самыми распространенными остаются случаи с фейковыми денежными переводами и так называемые pig butchering scams — схемы с установлением доверия для выманивания денег.