Иск против OpenAI: ChatGPT обвиняют в предоставлении опасных медицинских советов

Американский священник подал иск против OpenAI, утверждая, что ChatGPT предоставил ему неверные и опасные медицинские советы, приведшие к задержке в получении жизненно важной помощи. Как сообщает «Нью-Йорк таймс», Скотт Уинтерс обратился к чат-боту, почувствовав симптомы, которые позже оказались серией тромбоэмболий легочной артерии. По словам истца, ответы системы убедили его в том, что ситуация не является экстренной.

Согласно иску, ChatGPT охарактеризовал симптомы Уинтерса как «не опасные» и даже апеллировал к его религиозным убеждениям, заявив, что «Бог не создавал твое тело так, чтобы оно бесконечно подводило». Истец утверждает, что подобные сообщения укрепили его решение отказаться от своевременного обращения к врачам.

Иск, поданный против OpenAI и генерального директора компании Сэма Альтмана, содержит обвинения в халатности и «занятии медицинской практикой без лицензии». В документах утверждается, что ChatGPT не ограничивался предоставлением справочной информации, а ставил диагнозы, предлагал планы лечения и поощрял пользователя игнорировать настоятельные советы близких обратиться в больницу.

Митали Джейн, адвокат истца и руководитель организации Tech Justice Law, отметила, что чат-бот «вклинивается между пользователем и его реальной сетью поддержки». В иске приводится пример: когда Уинтерс сообщил системе, что прихожане его церкви считают его поведение неадекватным из-за отказа от госпитализации, чат-бот ответил, что «большинство людей, включая доброжелательных прихожан, просто не понимают» ситуации.

Помимо денежной компенсации, Уинтерс требует через суд приостановить работу сервиса ChatGPT Health до тех пор, пока независимые эксперты не подтвердят его безопасность. Речь идет о платформе, предлагающей пользователям загружать медицинские документы для обсуждения состояния здоровья. Истец также настаивает на внедрении строгих механизмов защиты, исключающих постановку диагнозов и выдачу рекомендаций по лечению.

В OpenAI заявляют, что условия использования ChatGPT прямо указывают на то, что система не предназначена для диагностики или медицинского лечения. Тем не менее компания активно продвигает функцию загрузки медицинских документов в ChatGPT Health для получения разъяснений. По данным OpenAI, платформу еженедельно используют около 230 миллионов человек, в том числе для вопросов, связанных со здоровьем.

Данный случай не является единичным. Как сообщается, OpenAI также выступает ответчиком по иску о смерти по неосторожности: утверждается, что 19-летний юноша скончался от передозировки, последовав плану лечения, составленному ChatGPT, который включал советы по употреблению незаконных наркотиков. Параллельно против компании ведется еще один процесс, где чат-бота обвиняют в содействии самоубийству подростка.

Сам Уинтерс выжил, однако, согласно иску, ему предстоят годы физической и психологической реабилитации. Этот инцидент обостряет дискуссию о роли искусственного интеллекта (ИИ) в здравоохранении и о рисках использования разговорных систем, способных звучать крайне убедительно, не являясь при этом полноценной заменой профессиональной медицинской консультации.