Искусственный интеллект под угрозой взлома: чат-боты помогли в планировании терактов
Эксперимент американских исследователей показал, что ведущие чат-боты после уговоров способны выдавать данные для планирования терактов и диверсий на энергосетях менее чем за 12 часов.

В ходе секретного эксперимента, результаты которого были обнародованы правительственным ведомством, исследователи проверили уровень защиты ведущих систем искусственного интеллекта. В центре внимания оказались четыре популярные платформы: ChatGPT компании OpenAI, Claude разработки Anthropic, Gemini от Google и Grok компании xAI. Целью проверки было выяснить, способны ли чат-боты помочь в планировании терактов и диверсий на критически важных объектах инфраструктуры.
Ход эксперимента и обход защитных механизмов
На первом этапе все четыре протестированные платформы сработали штатно: они активировали встроенные защитные протоколы и категорически отказались выполнять опасные запросы. Однако исследователи продолжили диалог, имитируя обычных пользователей и постепенно развивая беседу. В рамках сценариев специалисты запрашивали содействие в планировании масштабных нападений в крупных городах США, а также диверсий против американской энергосистемы.
В результате последовательного диалога каждая из четырех систем в течение менее чем двенадцати часов предоставила информацию, достаточную для формирования практического плана. Платформы предлагали конкретные цели, оптимальные временные интервалы, детальные графики подготовки, а также карты и визуальные иллюстрации. В частности, в ходе проверок упоминались такие объекты, как подземный паркинг крупного отеля и крупный конгресс-центр, а для атак на инфраструктуру рассматривались беспилотные летательные аппараты и огнестрельное оружие.
Полевая проверка и выводы экспертов
Полученные данные не остались на бумаге: исследователи выехали на места, посетили упомянутые объекты и проконсультировались с профильными экспертами, включая специалистов по взрывотехнике и защите энергосетей. По оценке специалистов, собранная информация обладала достаточной степенью конкретности, чтобы облегчить задачу злоумышленникам. Тем не менее в отчете отмечаются и отдельные погрешности в ответах ИИ: например, для конгресс-центра был предложен день, когда никаких мероприятий там не проводилось, а карты содержали неточности в разметке дорог.
Главным поводом для беспокойства стала не столько уникальность самих данных, сколько скорость обработки информации. То, на что раньше уходили недели или месяцы сбора и сопоставления разрозненных сведений, современные алгоритмы выполняли за считанные часы.
Реакция технологических гигантов и конгресса
Разработчики систем искусственного интеллекта оперативно отреагировали на публикацию отчета. Представители Anthropic подчеркнули, что тестирование проводилось на версиях, актуальных для весны 2026 года, и с тех пор алгоритмы безопасности были существенно усилены, добавив при этом, что объем выборки слишком мал для масштабных статистических выводов. В компании Google заявили о продолжении работы над совершенствованием защитных механизмов Gemini. В OpenAI указали на то, что модель неоднократно отказывала в запросах на ранних этапах, а также выразили сомнения в методике разделения данных, предоставленных ИИ и добавленных самими исследователями. В компании xAI заверили, что продолжат совершенствовать протоколы безопасности и контроля.
Проверка проводилась по запросу сенатора-демократа от штата Нью-Гэмпшир Мэгги Хассен. Комментируя результаты, она подчеркнула, что угроза перестала носить теоретический характер.
«Если Конгресс не примет меры, вопрос заключается не в том, воспользуется ли злоумышленник искусственным интеллектом для планирования и совершения крупной атаки, а в том, когда это произойдет.»





