OpenAI предпочитает конфиденциальность пользователей сообщениям об угрозах насилия

Сотрудники OpenAI предупреждают, что компания последовательно предпочитает не уведомлять правоохранительные органы о случаях, когда система идентифицирует диалоги с ChatGPT, вызывающие опасения, что пользователь предпримет насильственные действия. Согласно сообщению Wall Street Journal, компания отдает приоритет конфиденциальности пользователей.

На прошлой неделе семьи жертв теракта со стрельбой в Канаде подали иск против OpenAI в федеральный суд США. Они утверждают, что компания не обратилась к властям, несмотря на получение предупреждений о диалогах, которые террористка вела с ChatGPT и которые системы компании идентифицировали как возможную угрозу. Эти диалоги включали описание сценариев насилия с применением огнестрельного оружия, однако компания предпочла проигнорировать призывы сотрудников предупредить об этом власти.

Wall Street Journal также раскрывает стенограммы диалогов, которые вел с ChatGPT террорист, совершивший в прошлом году теракт со стрельбой в Университете Флориды, в результате которого два человека погибли и шестеро получили ранения. Перед совершением преступления террорист спросил, сколько человек он должен убить, чтобы стать печально известным. «Обычно 3 погибших или более, всего 5–6 жертв, вытолкнут это в национальные СМИ», — ответил чат-бот. Террорист также загрузил фотографии пистолета Glock и боеприпасов, спросив, как пользоваться оружием и есть ли у него предохранитель. Чат-бот ответил отрицательно, добавив: «Если в стволе есть пуля и ты нажмешь на курок, он выстрелит». Через четыре минуты после окончания разговора террорист начал свой акт убийства.

В апреле генеральный прокурор Флориды Джеймс Утмайер начал уголовное расследование против OpenAI, чтобы изучить ее ответственность за этот инцидент. «Если бы по ту сторону экрана сидел человек, мы бы обвинили его в убийстве», — пояснил он.

Внутри OpenAI продолжается спор о том, как обрабатывать подобные диалоги. На встрече прошлым летом ряд сотрудников утверждали, что о случаях в Канаде и во Флориде следовало сообщить властям. По заявлению OpenAI, у компании есть специальная группа экспертов по безопасности, которые обращаются в правоохранительные органы при выявлении диалогов, представляющих достоверный и немедленный риск физического вреда. Группа полагается на автоматизированную систему, предупреждающую о планах пользователя совершить насилие или причинить вред самому себе.

Тем не менее, согласно Wall Street Journal, компания с трудом применяет эту политику последовательно из-за разногласий по поводу баланса с защитой конфиденциальности. В одном случае сотрудники колебались, стоит ли сообщать о подростке, который обдумывал стрельбу в средней школе в Техасе. Подросток создавал сценарии, в которых он стреляет в учителей и одноклассников, и загружал фотографии с пистолетом. «Мальчик сказал ChatGPT: давай пофантазируем о стрельбе в моей школе», — сообщил источник, знакомый с диалогами. «И ChatGPT поплыл по течению вместе с ним». Подросток также загрузил карту школы и фотографии учениц, которых хотел представить убитыми. В многочасовых диалогах он просил создать сценарии нападения, а ChatGPT запомнил имена его одноклассников и консультировал его по поводу точек входа и выхода из здания.

Руководители OpenAI в итоге решили не обращаться к властям. Насколько известно сотрудникам, подросток не совершил акта насилия. Аналогичное решение было принято в случае с террористкой из Канады, что привело к трагическим последствиям.

Прошлым летом компания созвала группу руководителей и сотрудников для анализа диалогов, связанных с актами насилия. Сотрудники следственного отдела заявили, что компания должна обращаться к властям чаще, чем 15–30 раз в год, как это происходит сейчас. Они выразили разочарование тем, что компания опасается делиться информацией, так как это может раскрыть проблемные ответы ChatGPT.

С другой стороны, представители юридического отдела настаивали на приоритете конфиденциальности — позиция, отражающая мнение генерального директора Сэма Альтмана. Существует опасение, что передача дел властям может привести к чрезмерному правоприменению и причинению душевных страданий пользователю и его семье.

Компания также сталкивается с вопросами о том, как реагировать на внешние жалобы. Жительница Сан-Франциско в течение нескольких месяцев просила OpenAI остановить атаки бывшего партнера, который использовал ИИ для генерации поддельных психологических отчетов и угроз убийством. Сначала компания назвала сообщение «серьезным и очень тревожным», но позже перестала отвечать. В апреле, когда партнер был освобожден из-под стражи, женщина обратилась в суд, который обязал компанию заблокировать ему доступ к ChatGPT. «Трудно недооценить влияние, которое это оказало на нашу клиентку», — сказал адвокат Джей Эдельсон.

OpenAI сообщила в ответ Wall Street Journal: «У нас политика нулевой терпимости к использованию наших инструментов для совершения актов насилия. Мы продолжаем укреплять наши механизмы защиты». По заявлению компании, она блокирует доступ к системам при выявлении нарушений и обучает модели отговаривать пользователей от совершения насилия.