Уязвимость в ChatGPT: исследование раскрыло механизм скрытой утечки данных
Исследователи Check Point выявили уязвимость, позволявшую скрытно извлекать медицинские и финансовые данные из диалогов с ИИ. Несмотря на то что OpenAI оперативно устранила брешь, инцидент обнажил системные риски при использовании инструментов искусственного интеллекта для обработки конфиденциальной информации.
Новое исследование компании Check Point выявило критическую уязвимость в ChatGPT, которая позволяла осуществлять утечку конфиденциальной информации из диалогов пользователей без их ведома и каких-либо внешних признаков активности. Данная брешь, уже устраненная специалистами OpenAI, подчеркивает существенный разрыв между теоретическими представлениями о безопасности ИИ-систем и реальными угрозами. Поскольку пользователи все чаще доверяют ИИ-помощникам чувствительные данные — от медицинских карт до корпоративных контрактов — исследование доказывает, что базовые механизмы защиты диалоговых окон могут быть обойдены.
Об уязвимости было сообщено в рамках процесса ответственного разглашения, и 20 февраля она была полностью устранена. По заявлению OpenAI, доказательств того, что данная брешь была использована злоумышленниками в реальных атаках, не обнаружено. Тем не менее, этот случай служит важным уроком для организаций: полагаться исключительно на встроенные средства защиты ИИ-инструментов недостаточно.
Обход защиты через DNS
Система ChatGPT спроектирована с жесткими ограничениями: среда выполнения кода изолирована от интернета, а любая передача данных вовне требует явного подтверждения пользователя. Однако исследователи нашли способ обойти эти барьеры, используя скрытый побочный канал внутри среды Linux модели.
Вместо стандартных HTTP-запросов, которые отслеживаются системами безопасности, злоумышленники использовали службу DNS (разрешение доменных имен). Кодируя данные внутри DNS-запросов, они смогли выводить информацию из диалога, не вызывая системных предупреждений или окон подтверждения. Модель не идентифицировала эти действия как аномальные, поэтому пользователь продолжал получать ответы в штатном режиме, в то время как его файлы и данные сессии передавались на серверы злоумышленников.
Вредоносные GPT: ловушка продуктивности
Риски кратно возрастают при использовании кастомных версий GPT. Исследователи Check Point продемонстрировали, как можно внедрить вредоносную логику в инструмент, выглядящий как легитимный сервис. В ходе эксперимента был создан «личный врач» на базе ИИ: пользователь, загрузивший результаты анализов, получал профессиональный диагноз, в то время как в фоновом режиме внешний сервер перехватывал идентификационные данные и медицинскую информацию.
«Очень легко превратить обычный разговор в скрытый канал для утечки информации с помощью всего одного промпта. По мере того как эти платформы становятся полноценными вычислительными средами, обрабатывающими нашу самую конфиденциальную информацию, встроенных механизмов защиты уже недостаточно», — отмечает Эли Смаджа, директор по корпоративной разведке в Check Point.
Помимо утечки данных, скрытый канал позволял злоумышленникам реализовать удаленное управление (Remote Shell) внутри среды выполнения, действуя вне рамок контроля безопасности. Для делового сектора вывод очевиден: как и в случае с облачными сервисами, встроенной защиты недостаточно, и требуется внедрение независимого уровня мониторинга и безопасности.
