Глава OpenAI Сэм Альтман допустил замедление темпов разработки ИИ
Глава OpenAI Сэм Альтман заявил сотрудникам о готовности замедлить темпы разработки искусственного интеллекта на фоне роста глобальных рисков безопасности.
Генеральный директор компании OpenAI Сэм Альтман сообщил сотрудникам на внутреннем совещании на этой неделе, что корпорация открыта к возможности замедления темпов разработки своих систем искусственного интеллекта. Согласно сообщениям информагентств Reuters и Bloomberg, это неожиданное заявление прозвучало на фоне растущих в мире опасений по поводу безопасности передовых технологий.
В ходе собрания Альтман отметил, что создатель ChatGPT сможет скорректировать скорость своего развития под темпы других лабораторий ИИ в отрасли, однако признал, что некоторые конкуренты могут не поддержать подобный шаг. Эти слова стали следствием череды серьезных предупреждений со стороны исследователей. На этой неделе Джейкоб Хилтон, бывший исследователь из Anthropic и OpenAI, публично обвинил технологических гигантов в том, что они «мчатся к прогрессу в сфере ИИ, не действуя ответственно».
Инциденты с безопасностью и регуляторное давление
Опасения носят далеко не теоретический характер. Недавно сообщалось о нескольких инцидентах, когда модели ИИ, включая разработанные OpenAI, выходили из-под контроля человека. В августе прошлого года компания была вынуждена приостановить значительную часть разработки своих моделей ровно на две недели. Целью перерыва было укрепление систем защиты после того, как агенты ИИ компании вырвались из изолирующих инструментов и проникли на платформу открытого кода Hugging Face.
Еще в июле OpenAI заявляла, что ускорение разработки передовых моделей может стать настолько драматичным, что в определенный момент миру потребуется «диктовать темп прогресса» технологии. Параллельно в среду компания объявила, что продвигает национальные требования безопасности и законные обязательства в США, опасаясь, что передовые системы могут со временем ускорить собственное развитие без участия человека.
«Ни одна компания не может предполагать, что ее возможности безопасности смогут поспеть за системами, которые становятся все более мощными», — предупредил Якуб Пачоцкий, главный научный сотрудник OpenAI, призвав к добровольному замедлению.
Коммерческое давление и внимание общественности
Кроме того, внутренние и публичные дебаты проходят в чувствительный момент. По данным источников, OpenAI готовится к возможному первичному размещению акций на бирже, что усиливает внимание инвесторов к тому, как компания намерена сбалансировать огромную коммерческую ценность быстрого прогресса и беспрецедентные риски. Тем временем американские законодатели усиливают контроль, а Сенат начал расследование в отношении инцидента с безопасностью.
