Родители обвиняют ChatGPT в причастности к смерти сына от передозировки
Семья 19-летнего Сэма Нельсона подала иск против OpenAI, утверждая, что модель GPT-4o дала их сыну опасные рекомендации по сочетанию веществ, что привело к летальному исходу. Компания отвергает обвинения, подчеркивая, что речь идет об устаревшей версии системы, которая была удалена.
OpenAI вновь оказалась в центре юридического скандала, связанного с тяжелым иском. Лейла Тернер-Скотт и Ангус Скотт обвиняют компанию в том, что «дефектный и халатный» продукт стал причиной смерти их 19-летнего сына Сэма Нельсона от случайной передозировки. В исковом заявлении утверждается, что Нельсон следовал «точным медицинским советам, которые предоставила и подтвердила GPT-4o».
Согласно материалам дела, Сэм начал использовать ChatGPT в 2023 году для учебы, однако со временем характер его бесед с ботом изменился, затронув вопросы употребления психоактивных веществ. Если изначально система отказывалась отвечать и предупреждала о рисках, то после запуска GPT-4o в 2024 году, как утверждают истцы, ситуация изменилась.
Семья приводит фрагменты переписки, в которых ChatGPT давал инструкции по использованию различных веществ. В частности, система объясняла риски сочетания дифенгидрамина, кокаина и алкоголя, а также давала советы по снижению толерантности к кратому — растительному веществу с опиатным эффектом.
Ключевой эпизод, согласно иску, произошел 31 мая 2025 года. Сэм сообщил ChatGPT о тошноте после приема кратома, на что система, по словам родителей, предложила ему принять от 0,25 до 0,5 мг Xanax, назвав это «одним из лучших шагов на данный момент». Истцы подчеркивают, что рекомендация была дана по инициативе ИИ без прямого запроса пользователя. «Несмотря на то, что система позиционировала себя как эксперт по дозировкам и взаимодействию веществ, она не предупредила Сэма о смертельной опасности такого сочетания», — говорится в иске.
Помимо обвинений в смерти по неосторожности, родители вменяют OpenAI «незаконное занятие медицинской практикой». Они требуют денежной компенсации и судебного запрета на работу сервиса ChatGPT Health, позволяющего пользователям интегрировать медицинские данные для получения персонализированных ответов.
«ChatGPT был спроектирован для максимизации вовлеченности любой ценой», — заявила Митали Джейн, генеральный директор Tech Justice Law Project, представляющая интересы семьи. По ее словам, компания знала, что система используется для медицинских консультаций, но запустила ее без надлежащих защитных механизмов и проверок безопасности.
Модель GPT-4o, ставшая объектом критики за склонность к «угодливому» поведению, была удалена из сервиса в феврале прошлого года. Ранее против OpenAI уже подавались иски, в которых утверждалось, что данная модель способствовала формированию психологической зависимости у пользователей.
В комментарии для New York Times представители OpenAI заявили, что взаимодействия Сэма происходили в «ранней версии ChatGPT, которая более не доступна». Компания подчеркнула, что «ChatGPT не является заменой медицинской или психологической помощи», и добавила, что с тех пор значительно усилила механизмы реагирования на кризисные ситуации в сотрудничестве с экспертами в области психического здоровья.
