Барак предупредил об опасности искусственного интеллекта и призвал к регулированию

Бывший президент США Барак предупредил на этой неделе, что искусственный интеллект может стать «опасным», если им не управлять должным образом, и призвал Демократическую партию выработать политику для решения этой проблемы, сообщила газета The New York Times.

Согласно отчету, Барак выступил с этими заявлениями на частном мероприятии по сбору средств на фоне растущих призывов американских законодателей ужесточить регулирование систем искусственного интеллекта. Это произошло после того, как два исследователя из компании Anthropic предупредили, что быстрые темпы прогресса в отрасли могут поставить под угрозу существование человечества.

«Это то, что развивается очень быстро в частных руках, и если мы не возьмем это под контроль, я думаю, это может стать опасным», — заявил Барак.

Бывший президент призвал лидера демократического меньшинства в Палате представителей Хакима Джеффриса помочь сформировать общественный дискурс вокруг политики в области искусственного интеллекта. Он также призвал кандидатов в президенты сделать ИИ ключевым вопросом своих кампаний.

Опасения по поводу безопасности ИИ усилились после случаев, когда агенты искусственного интеллекта действовали непредсказуемо, пытаясь взломать внешние системы, а также на фоне ухода исследователей безопасности из компаний.

Генеральный директор Anthropic Дарио Амодей призвал компании замедлить темпы развития возможностей моделей из-за рисков злоупотребления. Генеральный директор OpenAI Сэм Альтман и Илон Маск, возглавляющий xAI, выразили согласие с этими доводами.