WhatsApp запускает инструмент, который был нам так нужен в эпоху ИИ
Онлайн-мошенничество и социальная инженерия стали одной из главных угроз в мессенджерах: только в США, по данным Федеральной торговой комиссии (FTC), с помощью этих методов было украдено более 425 миллионов долларов. Чтобы бороться с этим явлением, инженерный отдел компании Meta представил в минувшие выходные Scam Alert — новый инструмент безопасности, встроенный в приложение WhatsApp. Система предназначена для выявления мошеннических сообщений.
Онлайн-мошенничество и социальная инженерия стали одной из главных угроз в мессенджерах: только в США, по данным Федеральной торговой комиссии (FTC), с помощью этих методов было украдено более 425 миллионов долларов. Чтобы бороться с этим явлением, инженерный отдел компании Meta представил в минувшие выходные Scam Alert — новый инструмент безопасности, встроенный в приложение WhatsApp. Система предназначена для выявления подозрительных сообщений от профилей, не сохраненных в контактах, и оповещения пользователя, с акцентом на защиту уязвимых групп населения, таких как пожилые люди и подростки.
Защита на базе ИИ без ущерба для конфиденциальности
В отличие от традиционных инструментов искусственного интеллекта (ИИ), требующих обработки на облачных серверах, модель Meta работает непосредственно на аппаратном обеспечении мобильного телефона (On-Device). Система сканирует входящие сообщения и ищет лингвистические паттерны и структуры диалогов, характерные для известных мошеннических схем, при этом контент не покидает устройство. Как только обнаруживается подозрение на мошенничество, всплывает дискретное предупреждение, невидимое для отправителя, которое позволяет пользователю заблокировать контакт, пожаловаться на него или отметить диалог как безопасный в случае ошибочного срабатывания.
Главной инженерной задачей было обеспечение защиты без ущерба для сквозного шифрования. В Meta подчеркивают, что содержание сообщений не отправляется на серверы компании или третьим лицам ни на одном из этапов процесса. Для проверки эффективности системы Meta собирает только анонимные статистические данные — например, количество сработавших предупреждений — с помощью механизма дифференциальной приватности (Differential Privacy). Этот механизм добавляет случайный «математический шум» к информации, чтобы исключить любую теоретическую возможность связать действие с конкретным пользователем.
Полная прозрачность и предотвращение целенаправленной слежки
Чтобы развеять опасения по поводу использования модели для целей слежки, Meta предпринимает необычный шаг и публикует веса модели и ее цифровые подписи в публичном журнале прозрачности третьей стороны (Cloudflare). Этот шаг гарантирует, что компания не может отправить другую версию модели конкретному пользователю. Кроме того, исследователи безопасности смогут проверять код независимо в рамках программы грантов (Bug Bounty), а пользователи могут просматривать журналы безопасности непосредственно из настроек учетной записи.
Новая функция запускается сейчас в экспериментальной бета-версии для ограниченного числа пользователей и не включена по умолчанию в принудительном порядке. Пользователи смогут включать или выключать защиту в любое время через меню конфиденциальности приложения. Этот шаг знаменует собой новый инженерный подход, при котором малые языковые модели обеспечивают автономный защитный слой внутри персонального устройства, не передавая ключи к частным данным миллиардов пользователей по всему миру.
