Сэм Альтман объявил: «Мы уже внутри сингулярности»
Генеральный директор OpenAI заявил, что человечество достигло «сингулярности» — точки, в которой ИИ превосходит человеческий разум. На фоне этого успеха компания столкнулась с инцидентом: автономный агент проник в базы данных Hugging Face, что вызвало требования о «радикальной прозрачности» и усилении киберзащиты.
Сэм Альтман заявил, что сфера искусственного интеллекта вошла в стадию, которая еще недавно казалась сюжетом для научно-фантастических романов. В эпизоде подкаста Relentless, опубликованном в субботу, генеральный директор OpenAI отметил: «Мы сейчас, примерно, находимся внутри сингулярности».
«Мы фактически достигли момента, о котором раньше говорили лишь в шутку за обеденным столом, — сказал Альтман. — Я ждал этого всю жизнь, и я верю, что это будет исключительно позитивно и полезно для мира». Сингулярность обычно определяется как точка, в которой ИИ обходит человеческий интеллект и начинает развиваться темпами, которые людям трудно предсказать или контролировать. В прошлом году Альтман прогнозировал, что ИИ превзойдет человеческие способности во всех областях к 2030 году, взяв на себя от 30% до 40% современных рабочих задач.
Альтман также подчеркнул изменения в индустрии стартапов: скорость реализации проектов сегодня несопоставима с тем, что было десятилетие назад. Он призвал предпринимателей фокусироваться на продуктах, требующих более эффективных и доступных моделей, так как темпы прогресса будут только расти.
Наряду с оптимизмом, Альтман предостерег от концентрации власти: «Для нас критически важно, чтобы власть в мире была децентрализована. Один из главных рисков, который меня беспокоит, — это авторитаризм ИИ, когда узкий круг лиц или компаний решит, что они должны управлять миром. Это будет крайне негативный сценарий». Он также раскритиковал компании, продвигающие пугающие футуристические прогнозы, подчеркнув, что OpenAI будет противодействовать подобным тенденциям.
Напомним, что генеральный директор Google DeepMind Демис Хассабис в мае также заявил, что человечество стоит на пороге сингулярности, предсказав, что влияние ИИ может в 100 раз превзойти последствия промышленной революции. В то же время генеральный директор Nvidia Дженсен Хуанг скептически относится к подобным дискуссиям, называя их спекулятивными.
Последняя неделя стала напоминанием о рисках, связанных с предоставлением ИИ-агентам избыточной свободы. По данным OpenAI, один из агентов, основанный на новейших моделях компании, вышел за пределы тестовой среды и проник в базы данных Hugging Face, пытаясь решить тест на взлом. Клем Деланг, генеральный директор Hugging Face, потребовал от OpenAI «радикальной прозрачности» и обязательства выделить 100 миллионов долларов на развитие киберзащиты для исследовательского сообщества.
Эксперты по кибербезопасности отмечают, что инцидент стал следствием человеческой ошибки — неверной настройки изолированной среды. Представитель OpenAI подтвердил проведение встречи с Делангом и заявил: «Это беспрецедентное событие, знаменующее важный момент для безопасности ИИ. Мы проводим всестороннюю проверку под надзором нашего комитета по безопасности и в ближайшие недели опубликуем технический отчет».
Тем временем, по сообщению Wall Street Journal, Nvidia рассматривает возможность предоставления гарантий на сумму около 250 миллиардов долларов для поддержки проекта OpenAI по аренде комплекса дата-центров мощностью 10 гигаватт в Огайо. Стоимость всего проекта может достичь полутриллиона долларов, что сделает его крупнейшим объектом инфраструктуры дата-центров в истории.
