В OpenAI знали: за несколько месяцев до бойни — разговор убийцы с ChatGPT
Генеральный директор OpenAI Сэм Альтман принес официальные извинения после того, как выяснилось, что компания заблокировала аккаунт подозреваемой в массовом убийстве в Канаде за несколько месяцев до трагедии, но не уведомила полицию. Инцидент вызвал глобальную дискуссию об ответственности разработчиков ИИ за предотвращение насилия в реальном мире.
Трагедия в канадском городке Тамблер-Ридж, где в феврале прошлого года были убиты восемь человек, поставила компанию OpenAI в центр острого этического и юридического спора. В официальном письме, опубликованном в конце недели, генеральный директор компании Сэм Альтман принес извинения за то, что руководство не предупредило правоохранительные органы о подозрительной активности Джесси Ван Рутслаар, подозреваемой в совершении этого преступления.
Выяснилось, что еще в июне прошлого года автоматические системы мониторинга OpenAI выявили в аккаунте Ван Рутслаар сообщения, содержащие признаки агрессии и насилия. Учетная запись была оперативно заблокирована, и некоторые сотрудники компании призывали руководство передать данные в полицию Канады, опасаясь, что речь идет о реальной угрозе. Несмотря на это, в OpenAI тогда решили не обращаться к властям.
Тревожные сигналы
После бойни стало известно, что подозреваемая сумела создать второй аккаунт и продолжить пользоваться сервисом. Этот случай обнажил серьезный пробел в политике отчетности компании, которая до недавнего времени ограничивалась блокировкой пользователей, избегая активного сотрудничества с правоохранительными органами при обнаружении скрытых угроз.
«Я хочу выразить свои глубокие соболезнования всему сообществу. Никто не должен проходить через такую трагедию», — написал Альтман.
Глава компании пообещал, что отныне OpenAI будет тесно взаимодействовать с государственными структурами, чтобы информация о потенциальных угрозах насилия передавалась в режиме реального времени.
Законодательные последствия
Извинения Альтмана прозвучали на фоне мощного давления со стороны канадских политиков. В Европейском союзе и Канаде уже рассматриваются новые нормы, которые обяжут компании в сфере ИИ (искусственного интеллекта) сообщать об угрозах безопасности. В Либеральной партии Канады также звучат призывы запретить использование чат-ботов подросткам младше 16 лет.
В OpenAI утверждают, что с момента инцидента протоколы безопасности были значительно усилены. Согласно новым правилам, внедренным в прошлом месяце, информация о действиях Ван Рутслаар была бы передана в полицию незамедлительно. Жители Тамблер-Риджа, все еще оплакивающие погибших, воспринимают извинения компании неоднозначно: одни видят в них первый шаг к исправлению, другие задаются вопросом, почему для изменения очевидной политики потребовалась столь масштабная катастрофа.
