Искусственный интеллект может установить вредоносный код на ваш компьютер

Позволяете ли вы своим инструментам искусственного интеллекта писать и устанавливать код самостоятельно? Вам стоит подумать еще раз. Новое исследование показывает, что самые популярные инструменты ИИ, включая Claude от Anthropic и Codex от OpenAI, могут стать каналом для внедрения вредоносного ПО прямо на ваши компьютеры и в корпоративные сети. Новый риск связан с тем, как эти инструменты считывают и выполняют инструкции с веб-сайтов.

Как ИИ устанавливает вредоносный код?

Проблема начинается со специальных текстовых файлов под названием llms.txt, которые предназначены для того, чтобы помочь агентам искусственного интеллекта легко читать веб-сайты. Исследователи, просканировавшие более 6000 доменов гигантских компаний и оборонных подрядчиков, обнаружили, что многие из них содержат ссылки на пакеты кода или домены, которые вообще не зарегистрированы. Когда ИИ пытается установить программное обеспечение согласно ошибочной документации, он может загрузить вредоносный код, который хакеры зарегистрировали под теми же заброшенными именами.

Чтобы доказать опасность, исследователи сами зарегистрировали часть этих заброшенных имен и создали безобидные пакеты кода, которые лишь сообщают об их установке. Результаты были быстрыми и пугающими: менее чем через час гигантская компания из списка Fortune 500 уже связалась с их сервером после автоматической установки, выполненной ее агентом ИИ. Вскоре к ней присоединились десятки других компаний, которые попались в ту же самую ловушку.

Как вы можете защитить организацию?

Чтобы устранить эту брешь в безопасности, требуются двойные действия. Во-первых, компании и организации должны очистить документацию на своих веб-сайтах и убедиться, что в ней нет ссылок на несуществующие пакеты кода или заброшенные домены. Во-вторых, разработчики ИИ должны запретить агентам относиться к текстовым документам как к прямым командам на выполнение. Пока это не произойдет, рекомендуется ограничить права доступа ИИ и не позволять ему запускать системные команды автоматически.

В конечном счете, искусственный интеллект приносит с собой огромную эффективность, но также и новые, сложные риски. Поддержание чистоты документации и ограничение полномочий агентов ИИ — это самые необходимые шаги, которые вы можете предпринять уже сегодня, чтобы гарантировать, что ваш цифровой помощник случайно не станет входными воротами для следующего хакера.