Осторожно: модели ИИ могут раскрывать личные номера телефонов
Эксперты по безопасности предупреждают о явлении «ИИ-доксинга», при котором популярные чат-боты выдают конфиденциальную информацию пользователей. Проблема усугубляется тем, что мошенники начинают использовать ИИ для продвижения фальшивых контактных данных.
Гонка технологических компаний за превращение чат-ботов на базе ИИ в основной инструмент поиска в интернете обнажает темную сторону технологий: боты предоставляют пользователям личные номера телефонов реальных людей, зачастую не имеющие отношения к поисковому запросу. Эксперты по конфиденциальности называют это явление «ИИ-доксингом» и предупреждают, что такие системы, как Gemini от Google и ChatGPT от OpenAI, могут превращать старые базы данных, информацию из глубоких слоев сети или даже вымышленные сведения в данные, доступные каждому.
Один из примечательных случаев произошел с пользователем Reddit, чей личный номер начал появляться в Gemini как контакт различных предприятий и специалистов. По его словам, он постоянно получает звонки от людей, ищущих адвоката, слесаря или дизайнера, которые утверждают, что нашли его через «ИИ от Google».
«Это нарушение конфиденциальности и утечка информации в огромных масштабах», — написал пользователь, чей телефон превратился в импровизированный сервисный центр для посторонних людей. По его утверждению, обращения в Google не принесли результата, и преследования продолжаются ежедневно.
В компании по защите конфиденциальности ClearNym утверждают, что проблема глубже, чем точечный технический сбой. Речь идет о столкновении многолетней практики сбора личных данных и моделей ИИ, обучавшихся на колоссальных массивах информации из сети. «Эта информация теперь возвращается в виде точных копий, выдумок или даже в качестве номеров-заполнителей для посторонних людей», — заявил представитель компании изданию The Independent.
Параллельно с этим специалисты по информационной безопасности предупреждают, что мошенники осознали этот потенциал. Компания Virgin Media O2 сообщила, что преступники внедряют в сеть фальшивые сервисные номера, чтобы ИИ-боты представляли их пользователям как надежные результаты. Таким образом, человек, запрашивающий номер службы поддержки банка или авиакомпании, может попасть напрямую к злоумышленникам.
«Преступники знают, что люди ищут быстрые ответы, — заявил директор по предотвращению мошенничества компании Мюррей Маккензи. — Инструменты ИИ создают новую возможность заставить фальшивые номера выглядеть абсолютно надежными».
Исследователи безопасности из компании Aurascape объяснили, что мошенники используют метод «отравления контента» — намеренного наводнения сети ложной информацией, которую системы ИИ сканируют при обучении. «Атакующие незаметно переписывают интернет, который читают системы ИИ», — отметил исследователь Чи Дэн.
Другие случаи затрагивают еще более тревожные границы. Согласно MIT Technology Review, Gemini по ошибке представил личный номер израильского инженера-программиста Даниэля Абрахама как номер службы поддержки платежного приложения. Исследователи из Вашингтонского университета также обнаружили, насколько легко извлечь личные данные через Gemini.
Докторантка Мейра Гилберт рассказала, что при поиске имени своей подруги Яэль Айгер бот выдал ее личный номер мобильного телефона. «Это было шокирующе», — призналась она. Сама Айгер отметила, что информация, хотя и существовала в сети, была «зарыта» достаточно глубоко. «Есть огромная разница между данными, которые технически существуют онлайн, и ИИ, который делает их мгновенно доступными любому человеку», — добавила она.
Компании, специализирующиеся на удалении личной информации из сети, также сообщают о росте жалоб. Генеральный директор DeleteMe Роб Шевелл рассказал, что пользователи все чаще жалуются на чат-боты, раскрывающие домашние адреса, номера телефонов, имена членов семьи и места работы.
В Google заявили, что существуют механизмы защиты, предназначенные для предотвращения появления личной информации в ИИ-инструментах компании, и что запросы на удаление данных проверяются в индивидуальном порядке. Однако на практике многие пользователи утверждают, что обработка происходит медленно или не происходит вовсе.
На фоне этого эксперты предупреждают, что ситуация будет развиваться. По мере того как инструменты ИИ становятся основными движками ответов, преступники учатся использовать их все активнее. В США уже зафиксированы случаи, когда мошенники применяли инструменты имитации голоса на базе ИИ, чтобы выдавать себя за родственников пожилых людей и вымогать деньги. По данным властей округа Саффолк, мошенники собирают видеоролики из TikTok и других социальных сетей, создают из них убедительные синтетические голоса и оказывают эмоциональное давление на жертв.
«Они всегда стараются оставаться на шаг впереди», — сказал начальник полиции округа Саффолк Кевин Каталина, подчеркнув, что мошенничества становятся все более изощренными по мере совершенствования технологий ИИ.
