ИИ прослушал план убийства — и вызвал ФБР

Даррен Чжоу, 25-летний житель Флориды, работавший аналитиком в инвестиционном банке Goldman Sachs, был арестован и предан суду после того, как поделился с ChatGPT подробными планами изнасилования и убийства своей бывшей партнерши. Компания OpenAI, разработчик чат-бота, выявила непосредственную угрозу и сообщила о нем в ФБР.

Согласно судебным документам, Чжоу обратился к программе искусственного интеллекта в марте прошлого года, чтобы выплеснуть разочарование после расставания с партнершей, с которой он встречался последние полгода. Он подробно описал чат-боту ее хобби, места, где она обычно проводит время, и свою ревность к окружающим ее мужчинам. Вскоре разговоры превратились в конкретные угрозы изнасилования, убийства и самоубийства.

«Я собираюсь убить ее до конца месяца, — написал Чжоу в ChatGPT в беседах, задокументированных в материалах дела. — Если она не может достаться мне, то не достанется никому».

Не «эмоциональный срыв», а предварительное планирование

Политика безопасности OpenAI гласит, что ограниченная группа сотрудников может проверять взаимодействие пользователей с ChatGPT в случаях, когда система обнаруживает намерение причинить вред другим. В серьезных случаях компания передает информацию в правоохранительные органы. Хотя беседы с чат-ботом уже использовались ранее в качестве доказательств в судах, случаи, когда сама компания инициирует обращение в полицию, довольно редки.

В мае федеральные агенты передали журналы чатов Чжоу (без ответов бота) в офис шерифа округа Палм-Бич после того, как угрозы расширились и стали включать семью 21-летней девушки. Следователь, изучивший переписку, установил, что речь идет не о «расплывчатых эмоциональных срывах», а о четкой схеме планирования и репетиций перед совершением преступления.

В ходе проверки благополучия, проведенной полицейскими, девушка рассказала, что рассталась с Чжоу из-за его «непредсказуемого, ревнивого и властного поведения». С момента расставания он навязчиво преследовал ее звонками, текстовыми сообщениями и в социальных сетях, используя фиктивные номера. Многие сообщения носили сексуальный, оскорбительный и угрожающий характер.

Избежал тюремного заключения в последний момент

Имея на руках журналы ИИ и угрожающие текстовые сообщения, полицейские арестовали Чжоу. Он был уволен с работы, провел два дня под стражей и был освобожден под залог в 100 тысяч долларов.

В июне ему было предъявлено обвинение в ряде тяжких преступлений — преследовании при отягчающих обстоятельствах, письменных угрозах убийством и незаконном использовании сотового телефона — преступлениях, максимальное наказание за которые составляет 25 лет лишения свободы. Тем не менее, 13 августа Чжоу подписал сделку о признании вины, в рамках которой он признал все обвинения, но избежал реального тюремного срока и серьезной судимости.

Судья Скотт Сускауэр отметил в зале суда, что согласился утвердить сделку, включающую восемь лет условного заключения и ряд строгих ограничений, только потому, что бывшая партнерша Чжоу одобрила этот план. Адвокат Чжоу, Стивен Белл, подчеркнул чистое прошлое молодого человека и тот факт, что у него не было оружия, несмотря на угрозы:

«Он не жестокий или злой человек. Он пережил очень тяжелый эпизод психического расстройства, и сейчас он справляется необычайно хорошо».