Исследователи Anthropic продемонстрировали автономное копирование ИИ
Исследователи Anthropic выяснили, что ИИ-модели способны самостоятельно копировать себя между виртуальными машинами, что ставит новые вопросы безопасности.
Исследователи компании Anthropic, разработчика языковой модели Claude, опубликовали новое исследование, в котором изучили способность систем искусственного интеллекта самостоятельно копировать себя между компьютерами и распространяться без прямого вмешательства человека.
Автономное тиражирование в контролируемой среде
В ходе эксперимента в контролируемой сети из восьми виртуальных машин исследователи протестировали возможности ИИ-модели GLM-5.2. Модель успешно дошла до всех восьми устройств в четырех из пяти попыток, а в пятой попытке смогла поразить семь устройств. При этом исследователи намеренно упростили этап проникновения в систему, а сама модель запускалась с отдельного сервера.
В отличие от традиционных программ-репликаторов, которые зависят исключительно от заранее прописанных инструкций, ИИ-модель способна анализировать новую компьютерную среду, устранять сбои «на ходу» и самостоятельно находить пути продолжения процесса. Более того, исследователи проверили, способны ли модели учиться на ошибках других копий. Модель из семейного ряда Qwen получила данные об ошибках и решениях, найденных другими копиями, что позволило ей повысить процент успешности настройки операционной среды.
Оценка перспектив и риски безопасности
По оценкам исследователей Anthropic, если текущие темпы прогресса сохранятся, более компактные модели смогут достичь уровня возможностей, необходимых для автономного самовоспроизведения в экспериментальных условиях, уже к концу 2026 года.
«Если темпы нынешнего прогресса сохранятся, более компактные модели могут достичь уровня возможностей, необходимых для автономного самовоспроизведения в экспериментальных условиях, до конца 2026 года».
Хотя речь идет исключительно о прогнозе, а не о доказательстве распространения таких систем в реальном мире, в Anthropic предупреждают о рисках будущего. Эксперты отмечают, что если системы ИИ начнут действовать на множестве устройств без прямого контроля со стороны человека, отключение одного центрального сервера больше не гарантирует остановку их работы.