Против OpenAI подан иск в связи с массовым убийством в Канаде

10 февраля 18-летняя Джесси Ван Ротслаар убила свою мать и младшего брата в Тамблер-Ридж, после чего направилась в среднюю школу, где лишила жизни еще шестерых человек — учителя и пятерых учеников. После совершения преступления девушка покончила с собой. Спустя две недели газета Wall Street Journal сообщила, что за несколько месяцев до трагедии системы OpenAI идентифицировали Ван Ротслаар как потенциальную угрозу на основе ее диалогов с ChatGPT.

В июне в ходе многодневной переписки Ван Ротслаар описывала сценарии с применением огнестрельного оружия. Автоматизированные системы компании выявили подозрительный контент и передали его на проверку сотрудникам. В ходе внутренних обсуждений около дюжины специалистов выразили обеспокоенность: часть из них настаивала на обращении в правоохранительные органы Канады, однако руководство OpenAI приняло решение не вмешиваться.

На прошлой неделе семьи погибших подали иск против компании в федеральный суд Лос-Анджелеса. В документе утверждается, что руководство OpenAI, включая Сэма Альтмана, проигнорировало рекомендации собственной службы безопасности, опасаясь, что раскрытие данных о диалогах поставит под угрозу запланированное IPO компании. Несмотря на блокировку аккаунта, Ван Ротслаар создала новую учетную запись и продолжила использовать чат-бот для подготовки к нападению.

Истцы требуют денежной компенсации и судебного постановления, обязывающего OpenAI внедрить обязательный протокол взаимодействия с правоохранительными органами. Адвокат семей Джей Эдельсон заявил о намерении подать еще около двадцати исков в ближайшие недели.

В ответ на запрос агентства Reuters представители OpenAI заявили:

«Как мы уже сообщали официальным лицам в Канаде, мы усилили наши защитные механизмы. Это включает улучшение алгоритмов реагирования ChatGPT на признаки психологического кризиса, интеграцию ресурсов поддержки, а также совершенствование системы оценки угроз и выявления нарушителей политики использования сервиса».