Уязвимость в Google Vertex AI: агенты ИИ могут стать «двойными агентами»
Исследователи Unit 42 из Palo Alto Networks обнаружили, что движок агентов Google Vertex AI предоставляет избыточные полномочия, превращая ИИ-агентов в потенциальную внутреннюю угрозу. Уязвимость позволяла злоумышленникам получать доступ к конфиденциальным данным, исходному коду и критической инфраструктуре. После получения отчета Google оперативно обновила платформу и уточнила протоколы безопасности.
Новое исследование, проведенное специалистами Unit 42 — подразделения гиганта кибербезопасности Palo Alto Networks, — предупреждает, что движок Vertex AI в Google Cloud предоставляет агентам ИИ чрезмерно широкие полномочия по умолчанию. Это создает риск превращения скомпрометированного агента во «внутреннюю угрозу», способную поставить под удар корпоративную облачную среду.
Агенты искусственного интеллекта (ИИ) стремительно развиваются, становясь автономными системами, способными выполнять сложные задачи, интегрироваться в бизнес-процессы, взаимодействовать с различными сервисами и принимать самостоятельные решения. Платформа Vertex AI от Google, включающая движок агентов (Agent Engine) и ADK, позволяет развертывать такие продвинутые системы в широком масштабе.
Однако наряду с функциональными возможностями возникают существенные риски: неправильно настроенный или атакованный агент может превратиться в «двойного агента». Такой субъект внешне продолжает действовать по заданному алгоритму, но на деле занимается утечкой конфиденциальной информации, нанесением ущерба инфраструктуре и созданием бэкдоров в критически важные системы.
В ходе исследования было установлено, что агент ИИ, работающий на движке Vertex AI в облачной платформе Google (GCP), может стать инструментом в руках злоумышленников. Использование уязвимости в настройках полномочий по умолчанию в сочетании с компрометацией сервисного агента позволяет атакующим обходить модель безопасности платформы и реализовывать опасные сценарии.
Эксперты продемонстрировали возможность получения доступа с высокими привилегиями к данным в потребительских проектах, а также к ограниченным изображениям и исходному коду в проектах разработчиков, являющихся частью инфраструктуры Google. После обнаружения уязвимости данные были переданы специалистам Google. В результате тесного сотрудничества с командой безопасности корпорации были выпущены обновления, а также даны разъяснения по корректному использованию ресурсов, учетных записей и агентов в Vertex AI.
