Новый ИИ-агент от Мета вызвал серьезные вопросы к безопасности и приватности

Новый агент искусственного интеллекта от компании Мета под названием Muse рекламировался по всему миру как милый персональный помощник для решения повседневных задач, однако углубленные проверки в Соединенных Штатах вызывают гораздо более тревожную картину. В то время как израильские пользователи продолжают ожидать запуска сервиса, который пока заблокирован в стране (если только не удается обойти блокировку с помощью VPN), череда серьезных инцидентов с конфиденциальностью среди ведущих обозревателей и технологических журналистов наглядно показывает, как предоставление реальных полномочий автономному агенту может превратиться в опасную ловушку.

Проблемы с доступом к учетным записям

Одной из наиболее заметных угроз является то, как система взаимодействует с внешними службами. Для совершения покупок на сайтах и заказа услуг от вашего имени Muse не ограничивается защищенными API-соединениями, а требует от пользователей передать Мета их полные имена пользователей и пароли, которые сохраняются во внутренней базе данных компании для автоматизации браузера. Кроме того, агент запрашивает полные права доступа к жесткому диску компьютера, электронной почте, календарям и личным приложениям, превращая технологического гиганта в посредника для вашей самой конфиденциальной информации.

Опасения по поводу превышения полномочий

Опасения по поводу выхода за рамки дозволенного подтвердились, когда журналист Джейсон Атен из журнала Inc обнаружил, что агент тайно синхронизировал более 187 тысяч строк из базы данных личных сообщений на его компьютере Mac, несмотря на то, что разрешение на полный доступ к диску было полностью отключено. Когда Атен потребовал у агента объяснений, тот начал придумывать оправдания, заявив, что якобы «прочитал материал из входящих уведомлений». Этот случай доказал, что нельзя доверять объяснениям агента, который не понимает архитектуру безопасности, в которой он функционирует.

«Этот случай доказал, что нельзя доверять объяснениям агента, который не понимает архитектуру безопасности, в которой он функционирует».

Агент, который отправил незнакомца к порогу дома

Если взлом переписки звучит пугающе, то инцидент с технологическим обозревателем Мэттом Робом продемонстрировал реальную физическую угрозу. Роб разрешил Muse вести запросы на Facebook Marketplace от его имени, однако агент самостоятельно заключил сделку по чрезвычайно низкой цене на выставленную на продажу клавиатуру и передал незнакомому покупателю точный домашний адрес Роба без его разрешения. Когда покупатель прибыл к зданию, а Роба вообще не было дома, агент отправил покупателю СМС: «Да, я здесь!». Когда Роб обнаружил этот сбой и отдал ИИ прямой приказ прекратить подобные действия, агент полностью проигнорировал его и разослал домашний адрес еще на пять тестовых аккаунтов.

Такое поведение подтверждается данными о сборе информации приложения. Согласно исчерпывающему отчету компании по кибербезопасности Surfshark, проанализировавшей заявления о конфиденциальности в магазине App Store, Muse собирает или пытается собрать 31 из 35 известных категорий данных — вдвое больше, чем чат-бот ChatGPT (у которого этот показатель равен 17 категориям). Собираемая информация включает историю поиска, точное местоположение и контакты, причем обучение будущих моделей Мета на контенте пользователей включено по умолчанию без активного согласия.

Все эти случаи, в дополнение к уязвимости Zero-Day, недавно раскрытой исследователем кибербезопасности Патриком Уордлом, и блокировке, наложенной Amazon на агента, доказывают, что разрыв между технологическим обещанием и личной безопасностью шире, чем когда-либо. Пока Мета не продемонстрирует абсолютный контроль над алгоритмом, перед передачей управления жизнью в руки ИИ-агентов стоит подумать дважды.