Nvidia представила платформу OpenShell для защиты автономных ИИ-агентов

Компания Nvidia заявляет о серьезном препятствии на пути массового внедрения искусственного интеллекта: существующие системы безопасности не приспособлены для защиты автономных ИИ-агентов. По мере того как технологические компании соревнуются в разработке программ, способных выполнять задачи без участия человека, эксперты предупреждают о рисках несанкционированного доступа к конфиденциальным данным и корпоративным системам.

«Главный риск безопасности заключается в том, что ИИ-агенты действуют в средах, для которых они изначально не проектировались», — поясняет Али Голшан, старший директор по разработке ИИ-ПО в Nvidia и один из создателей платформы OpenShell. Выступая на конференции GTC в Берлине, он сравнил попытки защитить автономных агентов традиционными методами с «попыткой вести автомобиль по воде».

В основе решения Nvidia лежит OpenShell — среда выполнения с открытым исходным кодом, позволяющая организациям жестко контролировать действия ИИ-агентов. В отличие от стандартного ПО, получающего постоянные привилегии, агент начинает работу с нулевыми правами в изолированном пространстве. Ему задается определенная политика безопасности, и любые дополнительные доступы запрашиваются динамически.

Для предотвращения взломов на уровне программного обеспечения Nvidia задействует инфраструктурные процессоры BlueField, выросшие из израильских разработок компании Mellanox. Аппаратный компонент позволяет изолировать рабочую среду от сети и собирать журналы активности даже в случае компрометации самой программы.

Представители Nvidia подчеркивают, что компания не собирается конкурировать с рынком кибербезопасности, а создает базовую инфраструктуру, на основе которой профильные вендоры смогут развивать свои продукты. Такие игроки, как CrowdStrike, уже сотрудничают с платформой, создавая новые стандарты защиты для эпохи искусственного интеллекта.