Страхи перед уничтожением человечества ИИ охватили американское общество
Страхи перед уничтожением человечества с помощью искусственного интеллекта вышли за рамки Кремниевой долины, вызвав широкую общественную панику и дебаты в США после предупреждения исследователя.
Страхи перед искусственным интеллектом охватили американцев
Конгрессмен Джош Готхаймер смотрел матч своей дочери по полевому хоккею в Нью-Джерси, когда встревоженные родители подошли к нему с вопросом: «Что здесь происходит?». Этот инцидент далеко не единичен. Согласно отчету в Wall Street Journal, страх перед уничтожением человечества искусственным интеллектом на этой неделе превратился из удела технологов Кремниевой долины в тему для разговоров в среднестатистической американской гостиной.
Нынешняя паника была вызвана резким предупреждением, опубликованным Джейкобом Коксоном, исследователем, покинувшим компанию Anthropic, который заявил, что вышедшие из-под контроля системы искусственного интеллекта могут уничтожить цивилизацию. Его слова собрали сотни миллионов просмотров и привели к волне беспокойства среди граждан, законодателей и знаменитостей. Актер Мэтт Деймон и певица Шерил Кроу забили тревогу, причем Кроу обвинила лидеров в социальных сетях в том, что они «выбирают свои триллионы вместо своих детей».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Общественная паника и деловая тревога
Интерес общественности взлетел до беспрецедентных масштабов. Страница Википедии, посвященная экзистенциальному риску от искусственного интеллекта, зафиксировала десятикратный рост просмотров, а книги об опасностях технологий демонстрируют скачок продаж. Ведущий вечернего шоу Джимми КИмел задался вопросом в своей программе, почему общественность не относится к проблеме более серьезно, и эта тема стала центральной даже в группах по изучению Библии и в чатах WhatsApp.
Опасения просачиваются и в деловой мир. Руководители компаний по разработке программного обеспечения, кибербезопасности и медицинского оборудования сообщают, что их клиенты теперь опасаются сценариев взлома или критических ошибок автономных систем, которые могут привести к человеческим жертвам. Одновременно исследователи кибербезопасности сообщают о резком увеличении пожертвований в свои организации, включая единоразовый взнос в размере 40 тысяч долларов на исследования безопасности ИИ.
Мнения экспертов и регуляторные мотивы
Тем не менее, в Wall Street Journal подчеркивают, что среди отраслевых экспертов сценарий вымирания человечества по-прежнему считается мнением меньшинства. Многие генеральные директора хорошо знакомы с ограничениями технологии и считают экзистенциальные страхи надуманными и маловероятными.
В то время как технологические гиганты заявляют, что серьезно относятся к безопасности, источники, близкие к администрации Дональд Трамп и тех-индустрии, утверждают, что речь идет о со-организованном шаге некоммерческих организаций с целью навязать жесткое регулирование в Вашингтоне. Коксон со своей стороны отвергает обвинения в координации и заявляет, что сам был удивлен вирусной реакцией и общественной истерией.
