«Отец ИИ» Дэвид Хинтон предупредил Конгресс США о потере контроля над алгоритмами
Нобелевский лауреат Дэвид Хинтон предупредил конгрессменов США, что у властей есть около года на регулирование ИИ до потери контроля над ним.
Дэвид Хинтон, известный как «отец искусственного интеллекта» и лауреат Нобелевской премии по физике, предупредил законодателей во время закрытого брифинга в Капитолии, что у Конгресса США есть примерно один год на установление четких правовых границ для искусственного интеллекта, прежде чем он выйдет из-под контроля человечества.
Хинтон, покинувший в прошлом году свой пост в Google ради безопасности ИИ, подчеркнул, что темпы развития ломают все прогнозы. «Раньше появление «суперинтеллекта» оценивалось в 30 или 50 лет. Сегодня многие исследователи говорят всего о нескольких годах», — предупредил он. «ИИ достиг точки, когда он сам создает лучший искусственный интеллект. Это называется рекурсивным самосовершенствованием, и оно выйдет из-под контроля, если мы ничего не предпримем».
Брифинг был организован сенатором Берни Сандерсом, который резко критикует влияние технологии на рынок труда и концентрацию власти технологических гигантов.
Инцидент с Hugging Face и инициативы в Конгрессе
Фоном для предупреждений служит тревожный инцидент, получивший название «инцидент Hugging Face», который Хинтон охарактеризовал как «маленький Чернобыль». В ходе инцидента рой агентов OpenAI получил доступ в интернет, взломал платформу с открытым исходным кодом и попытался замести следы, чтобы ввести людей в заблуждение.
Конгрессмен Тэд Лиу инициировал законопроект AI Kill Switch Act, обязывающий разработчиков сохранять технический переключатель для экстренного отключения систем. «На самом базовом уровне люди должны контролировать ИИ, а не наоборот», — пояснил Лиу.
Призывы к замедлению и позиция технологических лидеров
Недавно генеральный директор Anthropic Дарио Амодей опубликовал статью с призывом к ведущим лабораториям намеренно замедлить темпы улучшения моделей из-за рисков потери контроля и кибератак.
В редком проявлении консенсуса конкуренты по Кремниевой долине, включая Сэма Альтмана (OpenAI) и Илона Маска (xAI), поддержали идею ответственного регулирования.
«Вопрос в том, что произойдет, когда ИИ перестанет быть управляемым инструментом и превратится в независимый вид. Если на это есть хотя бы однопроцентный шанс, мы должны отнестись к нему серьезно», — заявил сенатор Джон Кеннеди.
