Новая уязвимость ИИ позволяет мошенникам подделывать контакты брендов
Израильские исследователи кибербезопасности выявили новую схему мошенничества через манипуляцию поисковыми ответами ИИ, затрагивающую 374 мировых бренда.
Новое исследование в сфере кибербезопасности, проведенное израильскими экспертами Даном Ласкером, Ариэлем Симоном и Наором Хазизом — выпускниками элитных разведывательных подразделений ЦАХАЛ, — раскрывает новый метод мошенничества, использующий доверие пользователей к системам искусственного интеллекта. Согласно данным, 92% пользователей принимают ответы ИИ за абсолютную истину без проверки в сторонних источниках.
Манипуляции через GEO и фишинговые ловушки
Злоумышленники используют автоматизированные кампании на основе GEO (Generative Engine Optimization), чтобы влиять на выдачу информации в таких системах, как ChatGPT, Gemini и Google AI Overview. Вместо прямого спама хакеры внедряют в сеть правдоподобные данные, включая телефонные номера с использованием специальных символов Unicode и эмодзи. Поисковые системы на базе ИИ считывают эту информацию и преподносят ее пользователям как официальные контактные данные.
Схема проста: потребитель ищет часы работы банка или способ отменить авиабилет, а ИИ выдает сгенерированный мошенниками номер. На другом конце провода поддельный кол-центр имитирует официальную службу поддержки, навязывая клиентам завышенные комиссии и платные услуги. Система, разработанная исследователями, уже выявила активные атаки против 374 известных мировых брендов, включая авиакомпании Delta, Lufthansa, United, Emirates и Qatar Airways, туристические платформы Airbnb и TripAdvisor, а также банки Chase, Citi и Wells Fargo.
Проблема ответственности технологических гигантов
Проблема усугубляется тем, что вредоносный контент размещается на правительственных сайтах, академических ресурсах в зоне .edu и в социальных сетях. Даже после удаления такого контента его копии остаются в архивах вроде archive.org, продолжая питать обучающие модели ИИ.
«Люди научились опасаться подозрительных ссылок в письмах, но когда номер телефона подается как факт прямо из поисковой системы ИИ, он воспринимается как абсолютно надежный», — поясняет исследователь киберугроз Дан Ласкер.
В отчете отмечается разрыв в ответственности между пострадавшими компаниями и техногигантами. Корпорации утверждают, что их внутренние серверы не были взломаны, а технологические гиганты, включая Google и OpenAI, нередко отклоняют отчеты исследователей, ссылаясь на то, что модели меняют ответы от запроса к запросу, а дезинформация ИИ формально не входит в их программы поиска уязвимостей.
