Anthropic привлекает религиозных лидеров для формирования этики ИИ-чатбота Claude

Компания Anthropic перешла на новый этап в работе над этическими стандартами своего ИИ-чатбота Claude. Согласно сообщению в The Washington Post, в прошлом месяце компания пригласила 15 лидеров христианских конфессий и исследователей теологии для дискуссий с руководством Anthropic. Конференция была призвана помочь компании в формировании этического и духовного вектора развития Claude, ставшего ключевым фактором роста рыночной стоимости Anthropic до 380 миллиардов долларов.

«Они строят нечто, до конца не осознавая, каким будет результат, — заявил Брендан Макгуайр, католический священник, участвовавший в мероприятии. — Мы должны внедрить этическое мышление непосредственно в машину, чтобы она могла адаптироваться динамическим образом».

По словам источников, участники дискуссии обсуждали, как Claude должен реагировать на запросы пользователей, находящихся в состоянии глубокого траура или имеющих суицидальные наклонности. Anthropic активно выступает за мониторинг потенциальных рисков продвинутых моделей ИИ, оставаясь при этом одним из лидеров индустрии.

«Год назад я бы не подумала, что Anthropic — это компания, которую заботит религиозная этика, — отметила Меган Салливан, преподаватель философии в Университете Нотр-Дам. — Но ситуация изменилась».

Представитель компании подтвердил, что в Anthropic верят в важность взаимодействия с различными социальными группами, включая религиозные общины, для ответственного формирования сферы ИИ по мере усиления его роли в жизни общества.