Anthropic заблокировала аккаунты из-за использования ИИ в биоисследованиях

Компания в сфере искусственного интеллекта «Антрόпик» сообщила, что ученые использовали языковую модель «Клод» для проведения чувствительных биологических исследований, часть из которых потенциально могла быть применена для разработки биологического оружия. Компания заблокировала аккаунты, нарушившие правила использования сервиса, однако подчеркнула, что не смогла установить истинные намерения исследователей.

Данные случаи были обнародованы в отчете компании, посвященном злоупотреблениям ИИ-моделями. В частности, «Клод» применялся в изысканиях, связанных с возбудителями болезней, обладающими пандемическим потенциалом, а также в экспериментах по усилению функции, в ходе которых вирусы модифицируются для изучения изменения их свойств.

В одном из эпизодов ученый обратился к искусственному интеллекту за помощью в составлении заявки на грант для исследования вируса чикунгунья. Заявленной целью работы было выявление мутаций, способных повлиять на способность вируса к заражению и уклонению от иммунной системы, с последующим внедрением этих изменений в сам патоген.

Чикунгунья представляет собой вирус, передаваемый главным образом комарами и вызывающий лихорадку и сильные боли. В компании отметили, что подобные исследования могут служить легитимным медицинским целям, включая разработку вакцин и методов лечения. Тем не менее у руководства возникли серьезные опасения после выяснения того, что работы планировалось проводить на базе военного научно-исследовательского института.

Компания уточнила, что прямых доказательств намерения превратить вирус в оружие обнаружено не было. Тем не менее деятельность была признана нарушающей правила безопасности, доступ к системе заблокирован, а связанные с инцидентами учетные записи закрыты.