Исследователь Нейт Соарес оценил риск гибели человечества от ИИ в 50%

Исследователь в области машинного обучения Нейт Соарес, ранее работавший инженером-программистом в компаниях Google и Microsoft, оценивает вероятность того, что искусственный интеллект приведет к уничтожению человечества в ближайшее десятилетие, более чем в 50%. В интервью генеральному директору журнала The Atlantic Николасу Томпсону он рассказал, что это убеждение заставило его прекратить откладывать деньги на пенсию около десяти лет назад.

«В настоящее время кажется вероятным, что у нас не осталось целого десятилетия», — заявил Соарес, подчеркнув, что риск нехватки этого срока превышает 50%. Данная оценка является его личным прогнозом, а не официальным научным выводом. У него сохранился пенсионный фонд со времен работы в Google, однако пополнения в него не производились на протяжении примерно десяти лет.

В настоящее время Соарес возглавляет Институт исследования проблем искусственного интеллекта — некоммерческую организацию из Беркли, известную своей пессимистичной позицией относительно того, что развитие сверхмощного искусственного интеллекта приведет к вымиранию людей. В ходе интервью он сравнил жизнь с этой угрозой с существованием под дамокловым мечом ядерного уничтожения.

«Возможно, это первый случай, когда мы живем в условиях потенциальной гибели всего человечества одновременно, однако на личном уровне мы всегда существовали в тени эпидемий и войн», — отметил Соарес. Он добавил, что делает всё возможное для предотвращения катастрофы и при этом старается жить полноценной жизнью, подчеркивая, что не считает неизбежным сценарий гибели от рук ИИ.

Томпсон выразил скептицизм относительно вероятности уничтожения человечества искусственным интеллектом, напомнив о сохраняющихся ограничениях даже самых передовых технологий. В ответ Соарес провел аналогию с тем, как автомобили постепенно вытеснили лошадей, отметив, что системы ИИ непрерывно совершенствуются и расширяют спектр выполняемых задач.

Соарес уточнил, что его опасения не связаны с кризисом на рынке труда. «Я не сторонник апокалипсиса рабочих мест из-за искусственного интеллекта. Я сторонник сценария, при котором искусственный интеллект уничтожает всех людей», — пошутил он, добавив с черным юмором, что перед гибелью человечество будет обеспечено полной занятостью. В качестве решения проблемы он предлагает ограничить масштабирование и возможности систем ИИ, поддерживая их узкоспециализированное применение в медицине, но выступая против создания искусственного интеллекта, способного превзойти человеческий разум.