Увольнения в OpenAI и кризис безопасности в сфере искусственного интеллекта
Увольнение исследователей безопасности в OpenAI и массовые протесты разработчиков вскрыли системный кризис в сфере искусственного интеллекта. Эксперты призывают внедрить независимый государственный надзор, не зависящий от коммерческих интересов технологических гигантов.

В конце сентября из компании OpenAI были уволены три исследователя безопасности: Томек Корбак, Жасмин Ван и Микита Балесный. Все они занимались надзором за моделями искусственного интеллекта, а двое из них руководили исследованием, в рамках которого изучались методы мониторинга цепочки рассуждений передовых систем. Увольнения оставались загадкой до тех пор, пока спустя неделю экс-сотрудники не опубликовали открытое предупреждение под названием «OpenAI не может сделать искусственный интеллект безопасным в одиночку».
В опубликованном документе утверждается, что увольнения и то, как именно о них было сообщено, создали атмосферу страха среди исследователей компании. По словам авторов, связи с внешними специалистами по безопасности, которые ранее считались нормальной и желательной частью научной работы, теперь могут подвергнуть сотрудников риску. Если деятельность, еще недавно считавшаяся стандартной, внезапно становится поводом для увольнения, специалисты теряют возможность эффективно выполнять надзорные функции. Как сообщалось в прессе, в рамках внутреннего расследования об утечке информации служба безопасности OpenAI потребовала у уволенных исследователей предоставить доступ к их личным смартфонам. Проверка переписки показала, что часть общения с независимым исследователем велась через мессенджер Signal с использованием функции автоматического удаления сообщений, после чего последовали жесткие кадровые решения.
Кризис доверия и призывы к регулированию
Проблема темпов развития искусственного интеллекта вызывает тревогу не только у внешних наблюдателей, но и у самих разработчиков, включая топ-менеджеров ведущих технологических гигантов. В июле было опубликовано открытое письмо под названием «Pacing the Frontier», под которым подписались около 1400 сотрудников и руководителей индустрии, среди которых генеральный директор Anthropic Дарио Амодей, главный научный сотрудник OpenAI Яков Пачуки, главный научный сотрудник Meta AI Шэньцзяо Чжао и ведущие исследователи из Google DeepMind. Авторы предупредили о сценарии, при котором ИИ-системы смогут самостоятельно проектировать и совершенствовать продвинутые модели, ускоряя технологический прогресс до уровня, превосходящего способность человечества понимать происходящее или контролировать его.
Подписавшиеся призвали американские власти поддержать международные инициативы по координации темпов технологического роста, признав, что рыночные механизмы не позволяют отдельным игрокам сбавлять обороты в одностороннем порядке. Как отметил исследователь Лео Гао из OpenAI, ни одна компания не готова останавливаться первой, опасаясь проиграть в коммерческой гонке. На этом фоне некоторые эксперты принимают решение покинуть индустрию. В сентябре из Anthropic уволился Джейкоб Коксон, заявивший в социальных сетях, что ведущие разработчики делают ставки на создание сверхинтеллекта с возможностью рекурсивного самоулучшения, рискуя человеческими жизнями. В начале октября аналогичный шаг предпринял Дэвид Робинсон, руководивший формированием стандартов безопасности в OpenAI, который опубликовал разгромную статью в журнале «Atlantic», обвинив корпоративную культуру компании в пренебрежении рисками ради скорости выпуска продуктов.
Необходимость независимого надзора
Осознание масштаба угроз внутри отрасли растет, однако сами по себе предостережения не решают проблему, поскольку экономические стимулы побуждают компании скрывать недостатки и самостоятельно контролировать допуск к разработкам. В других высокотехнологичных отраслях, таких как фармакология или авиация, вопросы безопасности не отдаются на откуп производителям — регуляторы обладают полномочиями запрашивать данные и налагать ограничения независимо от позиции коммерческих структур. Эксперты подчеркивают жизненную необходимость внедрения аналогичных стандартов независимого контроля в сфере искусственного интеллекта, чтобы решение о безопасности систем принималось не в угоду бизнес-интересам разработчиков.





