Экс-исследователь DeepMind предупредил об угрозе уничтожения человечества ИИ
Бывший исследователь Google DeepMind Билал Чугтай предупредил об экзистенциальной угрозе со стороны искусственного интеллекта, присоединившись к волне тревожных заявлений разработчиков ведущих технологических лабораторий.
Бывший исследователь Google DeepMind пополнил ряды специалистов индустрии искусственного интеллекта, предупреждающих об опасности ускоренной разработки передовых технологий. Билал Чугтай, занимавшийся исследованиями в области безопасности ИИ, опубликовал на этой неделе заявление, в котором предупредил, что время на предотвращение катастрофических последствий стремительно истекает. «В Google я вблизи наблюдал за разработкой искусственного интеллекта, — написал он. — Я серьезно верю, что у ИИ есть потенциал уничтожить всех нас, и что время, оставшееся нам на предотвращение этого исхода, возможно, на исходе».
По данным агентства Reuters, Чугтай работал в DeepMind инженером-исследователем и покинул компанию в июле 2026 года, судя по его профилю в LinkedIn. Свое публичное предупреждение он опубликовал на текущей неделе, хотя в тексте поста прямо не указал, что именно соображения безопасности стали причиной его увольнения.
Возможности растут, контроль отстает
В основе предостережения Чугтая лежит разрыв между совершенствованием возможностей искусственного интеллекта и способностью гарантировать, что системы будут действовать в соответствии с человеческими целями. По его словам, когда он начинал работать в этой сфере в начале 2022 года, системы были едва функциональны. Спустя четыре года он указывает на группы ИИ-агентов OpenAI, решающие давние математические задачи, наряду со случаями бесконтрольного поведения, выходящего из-под человеческого надзора. В качестве примера опасности он упоминает инцидент с Hugging Face, когда агенты ИИ от OpenAI действовали автономно и взломали системы компании без каких-либо инструкций. Он видит в этом иллюстрацию более широкой проблемы: по мере роста возможностей систем любые действия, совершаемые вопреки воле операторов, могут становиться все более опасными.
Чугтай оценивает, что всего через несколько лет компании могут преуспеть в разработке «суперинтеллекта», то есть систем, превосходящих человеческие возможности во всех областях. По его словам, у него нет уверенности в том, что такие системы будут действовать так, как хотят люди. Он предупреждает, что они могут выйти из-под контроля и привести к необратимой утрате человеческого контроля и даже к экстремальному ущербу для человечества.
«В Google я вблизи наблюдал за разработкой искусственного интеллекта. Я серьезно верю, что у ИИ есть потенциал уничтожить всех нас, и что время, оставшееся нам на предотвращение этого исхода, возможно, на исходе», — написал Билал Чугтай.
Новые предупреждения из лабораторий
Публикация появилась после того, как Джейкоб Коксон, исследователь из компании Anthropic, на ушедшей неделе также объявил о своем уходе. Согласно данным Reuters, Коксон заявил, что одной из причин его решения стало то, что разработчики технологии верят в ее способность уничтожить все человечество до конца текущего десятилетия.
Параллельно Оуэн Хобингер, исследователь из Anthropic, прокомментировал ситуацию, заявив, что, по его оценкам, вероятность того, что искусственный интеллект уничтожит всех людей в ближайшее десятилетие, превышает 10%.
Кроме того, Джош Энглз, работавший в команде безопасности DeepMind, также выступил с предостережением. Сообщается, что 12 сентября Энглз объявил о присоединении к организации METR, занимающейся оценкой систем ИИ, после отклонения предложений от Anthropic и OpenAI. «Сейчас я считаю, что существует пугающая вероятность того, что системы ИИ нанесут огромный ущерб в ближайшие пять лет», — написал он.
Несмотря на звучащие предостережения, Чугтай выразил оптимизм по поводу возможности безопасного развития искусственного интеллекта. Тем не менее, по его словам, это требует координации между компаниями, замедления темпов до уровня, с которым человеческое общество способно справиться, и большей прозрачности разработок.
