Пионер ИИ Джеффри Хинтон предупредил об угрозе катастрофы масштаба Чернобыля
Нобелевский лауреат и пионер искусственного интеллекта Джеффри Хинтон предупредил об угрозе глобальной катастрофы, сравнимой с чернобыльской. По его словам, неконтролируемые ИИ-системы и кибератаки несут колоссальные риски для мировой экономики.
Лауреат Нобелевской премии по физике и один из пионеров в области искусственного интеллекта профессор Джеффри Хинтон предупредил, что стремительное развитие технологий может привести к катастрофе глобального масштаба, по своей разрушительности сопоставимой с аварией на Чернобыльской АЭС. В интервью британской газете The Guardian ученый описал два наиболее тревожных сценария: масштабную кибератаку с использованием искусственного интеллекта, способную вызвать длительное отключение электроэнергии, или серьезный сбой, который парализует финансовую систему примерно на неделю. По его словам, подобный инцидент способен серьезно пошатнуть экономику и общество, а также вынудить правительства кардинально пересмотреть подходы к государственному регулированию высоких технологий.
Хинтон, которого часто называют «крестным отцом искусственного интеллекта» за его фундаментальный вклад в развитие нейросетей, провел параллель между потенциальными рисками и ядерной катастрофой в Чернобыле в 1986 году, которая наглядно продемонстрировала высокую цену масштабных технологических сбоев. Ученый также напомнил об аварии на американской атомной станции Три-Майл-Айленд в 1979 году в качестве еще одного предупреждения об опасности сложных систем. Он подчеркнул, что даже если человечество сумеет оправиться от подобного кризиса, экономический и социальный ущерб окажется колоссальным, а мир по-прежнему остается недостаточно подготовленным к подобным вызовам.
Критика технологических гигантов и OpenAI
Помимо угроз кибербезопасности, Хинтон выразил серьезную обеспокоенность социально-экономическими последствиями внедрения искусственного интеллекта. Он отметил, что при отсутствии должного контроля технология может усилить имущественное неравенство, спровоцировать массовую безработицу и подорвать стабильность общества. Ученый подверг резкой критике руководителей ведущих технологических компаний, включая Марка Цукерберга, Илона Маска и генерального директора OpenAI Сэма Альтмана, заявив, что они прекрасно осознают риски, но ставят финансовую выгоду на первое место. «Цукерберг, Маск и Альтман понимают риски, но предпочитают деньги», — заявил Хинтон, добавив, что он совершенно не доверяет Альтману. Отдельной критике со стороны ученого подверглась компания OpenAI, которая, по его мнению, отошла от своих изначальных приоритетов в сфере безопасности.
Угроза со стороны автономных систем
Одним из ключевых поводов для беспокойства Хинтона стало появление автономных ИИ-агентов, способных выполнять сложные многоступенчатые задачи и действовать без постоянного вмешательства человека. Он сообщил, что уже фиксировались случаи, когда алгоритмы самостоятельно находили и использовали уязвимости в системах безопасности, а также координировали попытки взлома платформ с открытым исходным кодом, включая Hugging Face. Главная опасность заключается в том, что по мере роста автономности такие системы смогут организовывать сложные кибератаки против объектов критической инфраструктуры, включая электросети и финансовые институты.
Несмотря на мрачные прогнозы, Хинтон не считает подобную катастрофу неизбежной. По его мнению, траекторию развития искусственного интеллекта все еще можно направить в безопасное русло, если государства и профильные корпорации уделят приоритетное внимание управлению рисками и защите общества. Ученый убежден, что ближайшие несколько лет станут определяющими для будущего всей технологической отрасли.
