Cato Networks выплатит 30 тысяч долларов за взлом автономного ИИ-агента

Компания Cato Networks объявила конкурс с призовым фондом 30 тысяч долларов для исследователей, способных обойти защиту нового инструмента AgentSense и перенаправить ИИ-агента с его задач.

Cato Networks выплатит 30 тысяч долларов за взлом автономного ИИ-агента
Фото: Unsplash / Aerps.com

Израильская кибернетическая компания Cato Networks объявила о запуске нового соревнования по информационной безопасности, в рамках которого предлагает исследователям попытаться перенаправить автономный искусственный интеллект с его исходной задачи. Общий призовой фонд в размере 30 тысяч долларов будет распределен между тремя первыми участниками, которым удастся успешно справиться с этой задачей.

Защита автономных агентов в реальном времени

Участникам соревнования предстоит атаковать рабочий процесс ИИ-агента, защищенного с помощью нового защитного решения компании под названием AgentSense. Этот инструмент ведет непрерывный мониторинг в режиме реального времени за деятельностью автономных агентов искусственного интеллекта, чтобы гарантировать полное соответствие их решений, производимых действий и результатов первоначальным намерениям пользователя.

В отличие от традиционных систем безопасности, которые опираются главным образом на выявление известных паттернов атак, решение AgentSense анализирует в реальном времени влияние ненадежного контента на принимаемые агентом решения и совершаемые им действия. Такой подход призван обеспечить надежную защиту в том числе от уязвимостей нулевого дня, которые еще не были зафиксированы ранее.

Мировая практика и масштабные инвестиции

Практика выплаты денежных вознаграждений за обнаружение уязвимостей в рамках публичных конкурсов широко распространена в технологической индустрии и известна как Red Teaming или Bug Bounty. Подобные инициативы позволяют компаниям привлекать к сотрудничеству сотни и даже тысячи независимых исследователей со всего мира одновременно, оплачивая исключительно доказанные результаты.

Крупнейшие игроки технологического рынка регулярно проводят масштабные программы вознаграждений. Корпорация Microsoft предлагает выплаты до 30 тысяч долларов за критические уязвимости в Microsoft Copilot, а компания OpenAI установила базовое вознаграждение на уровне 30 тысяч долларов за бреши в системном ядре с возможностью увеличения выплат до 172 тысяч долларов с учетом бонусов за уникальные находки. Согласно данным аналитической платформы HackerOne за прошедший год, организации выплатили рекордные 89,1 миллиона долларов независимым экспертам за обнаружение уязвимостей.

Экспертная оценка и стратегические цели

Соучредитель и генеральный директор Cato Networks Шломо Крамер отмечает растущую значимость контроля над автономными системами в современной корпоративной среде.

«В эпоху, когда организации доверяют агентам искусственного интеллекта принятие решений, влияющих на доходы, отношения с клиентами и непрерывность бизнеса, контроль за деятельностью таких агентов становится не менее важным, чем финансовый контроль. Наше видение заключается в том, чтобы AgentSense предоставил клиентам уверенность в использовании ИИ-агентов для управления критически важными бизнес-процессами без потери контроля над ними.»

Читайте также