WhatsApp запустил новую функцию защиты от мошенников на базе ИИ
Meta представила в WhatsApp функцию Scam Alert, использующую ИИ для предупреждения пользователей о подозрительных сообщениях в режиме реального времени. Система работает локально на устройствах, не нарушая сквозное шифрование.
Спам-сообщения и мошенничество давно вышли за пределы традиционных SMS, проникнув в WhatsApp. Теперь Meta объявляет о внедрении нового инструмента борьбы с фродом: функции на базе ИИ, которая предупреждает пользователей в режиме реального времени. Разберемся, как это работает и влияет ли на безопасность данных.
Защита до совершения сделки
Meta запустила в WhatsApp функцию под названием Scam Alert, предназначенную для выявления сообщений от злоумышленников. Согласно блогу инженерного подразделения Meta, разработка направлена на защиту наиболее уязвимых категорий пользователей, таких как дети и пожилые люди.
«Если модель распознает сообщение как потенциально мошенническое, пользователю внутри чата будет показано предупреждение, невидимое для собеседника. После этого пользователь может выбрать действие: заблокировать отправителя, пожаловаться на сообщение или продолжить общение», — поясняют в компании. Если система ошибочно пометила легитимное сообщение, пользователь может отметить его как «безопасное», после чего предупреждение исчезнет.
Новая функция использует ИИ, однако Meta подчеркивает: модель работает локально на устройстве пользователя, а не в облаке. Содержимое сообщений не покидает устройство ни на каком этапе, а саму функцию можно отключить в настройках.
По данным Федеральной торговой комиссии, только в США мошенники похитили 425 миллионов долларов, используя популярный мессенджер Meta.
Сквозное шифрование остается в приоритете
В Meta объясняют, что «под капотом» находится компактная модель, основанная на вероятностной классификации структуры чата и «лингвистических сигналах» — паттернах, которые ИИ распознает в тексте. Модель была обучена на примерах мошенничества, о которых ранее сообщали пользователи.
Чтобы отслеживать эффективность функции без чтения переписки, Meta собирает только статистические данные через защищенную систему аналитики. В данные добавляется «математический шум» — случайное числовое значение, которое делает невозможной идентификацию конкретного пользователя. Компания заявляет, что не имеет доступа к необработанной информации (вашим сообщениям).
Для обеспечения прозрачности каждая версия модели регистрируется в публичном логе. Meta также опубликует веса модели, чтобы эксперты по безопасности могли независимо убедиться, что инструмент предназначен исключительно для выявления мошенничества. Пользователи смогут увидеть в приложении, какие именно статистические данные были переданы.
