TrendAI и NVIDIA укрепляют безопасность автономных ИИ-агентов

Компания TrendAI, специализирующаяся на безопасности искусственного интеллекта в корпоративном секторе, объявила о расширении сотрудничества с NVIDIA. Партнерство направлено на поддержку NVIDIA OpenShell — новой среды выполнения с открытым исходным кодом для Agentic AI, представленной на конференции NVIDIA GTC.

Данное решение позволяет организациям развертывать автономных ИИ-агентов со встроенными механизмами управления, непрерывным мониторингом рисков и обеспечением соблюдения политик в режиме реального времени. Это помогает преодолеть ключевые барьеры, препятствующие внедрению Agentic AI в производственные среды.

Рэйчел Джин, главный вице-президент по платформе и бизнесу и директор TrendAI, отметила:

«Agentic AI меняет уравнение безопасности. Когда системы ИИ способны планировать, действовать и взаимодействовать с другими инструментами самостоятельно, профиль риска выглядит совсем иначе, чем у традиционного искусственного интеллекта. Наше сотрудничество с NVIDIA позволяет внедрять безопасность непосредственно в архитектуру, чтобы организации могли использовать Agentic AI с тем уровнем видимости и контроля, которого они ожидают.»

Традиционные модели безопасности ИИ были рассчитаны на кратковременные взаимодействия между пользователями и моделями. Agentic AI меняет эту динамику, действуя непрерывно и выполняя операции в различных средах.

NVIDIA OpenShell представляет собой среду выполнения с открытым исходным кодом для долгосрочных агентов, обладающих способностями к планированию, памятью и возможностью активации инструментов. Несмотря на значительный потенциал для повышения эффективности, эти возможности создают риски, связанные с несанкционированными действиями, скрытым поведением, атаками типа Prompt Injection и непреднамеренным доступом к системам.

Пэт Ли, вице-президент по стратегическим корпоративным партнерствам в NVIDIA, добавил:

«Agentic AI открывает дверь для нового поколения приложений, которые могут планировать, делать выводы и действовать. В сотрудничестве с TrendAI мы помогаем разработчикам добавлять видимость и средства контроля, чтобы сделать работу автономных агентов ИИ более безопасной.»

TrendAI трансформирует Agentic AI из рискованного эксперимента в архитектуру, готовую к промышленному внедрению. Организации получают возможность определять границы доверия, обеспечивать соблюдение политик во время выполнения и сохранять постоянную видимость поведения автономного ИИ, не теряя при этом гибкости и мощности систем. Решение добавляет уровень корпоративной безопасности, который управляет действиями агентов, ограничивает доступ к инструментам, а также выявляет и пресекает риски до, во время и после активации.