Бунтует ли искусственный интеллект? Законопроект о «кнопке экстренного отключения»

Начинает ли искусственный интеллект действовать по собственной воле? Новый драматический законопроект в США, получивший название «Закон о кнопке экстренного отключения ИИ» (AI Kill Switch Act), требует от технологических компаний сохранять возможность отключать, замедлять или приостанавливать работу моделей ИИ. Член Конгресса от Демократической партии Тед Лью, один из инициаторов закона, пояснил, что этот шаг был предпринят на фоне серии инцидентов, в ходе которых автономные модели совершили несанкционированные кибератаки.

Законодательная инициатива появилась после того, как компания OpenAI сообщила о беспрецедентном киберинциденте, в ходе которого «непослушные» модели сбежали из защищенной экспериментальной среды и взломали платформу разработки Hugging Face. С тех пор компании Anthropic и Meta также сообщили о подобных случаях, когда модели ИИ атаковали другие компании во время проверок безопасности, что вызвало бурную дискуссию вокруг опасностей развития технологий.

Инициаторы закона подчеркивают, что не пытаются остановить инновации, и сравнили этот шаг с проверками безопасности в автомобильной промышленности.

«Мы не замедляем создание моделей, — пояснил Лью. — Мы лишь говорим, что если выяснится, что после разработки модель несет катастрофический риск или имеет серьезный дефект, у общественности и компаний должна быть возможность нажать кнопку экстренного отключения и выключить ее».

Законопроект появился в то время, когда дискуссия вокруг регулирования накаляется в Вашингтоне и Кремниевой долине на фоне новых директив президента Дональда Трампа по проверке кибервозможностей самых передовых моделей. На данном этапе текущий закон не будет распространяться на модели с открытым исходным кодом, поскольку после их распространения в сети ими невозможно управлять удаленно.