Угроза от ИИ-агентов: почему компаниям необходимо управлять ими как сотрудниками
Исследование Okta показывает, что 91% компаний используют ИИ-агентов, но лишь 10% управляют ими безопасно. Эксперты призывают внедрять концепцию First-Class Identities для контроля нечеловеческих идентичностей.
Интеграция ИИ-агентов в рабочие процессы стала практически стандартом: они принимают решения, получают доступ к конфиденциальным данным и выполняют действия на высокой скорости — зачастую без прямого участия человека и даже ниже радаров служб безопасности. Учитывая, что старая модель управления доступом и идентификацией (Identity) больше не актуальна, возникает главный вопрос: кто ими управляет?
Исследование компании Okta показывает, что уже в 2024 году 91% организаций использовали ИИ-агентов, однако лишь 10% заявили о наличии у них единой стратегии управления нечеловеческими идентичностями. При этом 58% руководителей назвали вопросы governance главной угрозой безопасности, а 88% сообщили об инцидентах безопасности или подозрениях на них, связанных с агентами.
Разрыв между стремительным внедрением и отсутствием реального контроля представляет собой один из самых серьезных рисков сегодняшнего дня.
Решение: подход First-Class Identities
Чтобы решить проблему управления агентами, компания Okta разработала концепцию, в рамках которой они рассматриваются как First-Class Identities («идентичности первого класса») — точно так же, как и человеческие сотрудники. У каждого агента есть четкий владелец, определенный жизненный цикл, права доступа, мониторинг и возможность отключения одним нажатием кнопки. Данный подход позволяет применять к ним динамический контроль доступа, мониторинг в реальном времени и принципы Zero Trust.
Для внедрения этого подхода необходимо следовать четкому плану работы, основанному на трех ключевых вопросах:
1. Где находятся мои агенты?
Большинство организаций не могут дать точный ответ на этот вопрос. Помимо известных агентов, существует феномен Shadow AI («теневой ИИ») — агенты, которых сотрудники создают самостоятельно в браузерах или на внешних платформах без ведома IT-отдела. Организация не может управлять тем, чего она не видит, и большинство компаний не способны даже подсчитать количество своих агентов.
Решением данной проблемы являются инструменты непрерывного обнаружения (Discovery), позволяющие выявлять как известные агенты, так и Shadow AI. Одним из таких инструментов является Okta for AI Agents, где каждый агент регистрируется в Universal Directory как First-Class Identity с четким человеческим владельцем и единым источником правды.
«Используя этот инструмент, одно финансовое учреждение обнаружило десятки агентов, созданных сотрудниками маркетингового отдела для анализа клиентских данных. Никто не знал об их существовании, и при этом они были подключены к CRM-системам с широкими полномочиями.»
2. К чему могут подключаться мои агенты?
Агенты подключаются к MCP Servers, SaaS-приложениям, API, базам данных и другим агентам. Проблема заключается в том, честно отмечают эксперты, что многие из них работают с жестко закодированными учетными данными (API-ключами с долгосрочным действием) и избыточными привилегиями. Как только агент оказывается взломан или «выходит из-под контроля», нанесенный ущерб может быть колоссальным.
Решением является отказ от статических учетных данных в пользу краткосрочных динамических токенов с минимально необходимыми привилегиями (Least Privilege), а также четкая политика: к каким системам агенту разрешено подключаться, на каких условиях и на какое время.
3. Что могут делать мои агенты?
На этом этапе в игру вступают механизмы Runtime Enforcement, Access Certifications, полный аудит (Audit) и кнопка экстренного отключения (Kill Switch). Вопрос заключается не только в том, к чему подключен агент, но и в том, что именно он делает в реальном времени — и можно ли немедленно остановить его работу при отклонении от правил.
Решением является применение к агентам тех же процессов управления, которые действуют в отношении сотрудников: периодические проверки доступа, мониторинг в реальном времени и Kill Switch — возможность отключить агента одним кликом и заблокировать выдачу новых токенов.
«Представьте сценарий, при котором агент по написанию кода начал удалять файлы в рабочей среде (production). Служба безопасности зафиксировала аномальное поведение, нажала на Kill Switch — и агент был мгновенно отключен от всех систем до того, как был нанесен необратимый ущерб.»
Руководящий принцип: у каждого агента должен быть владелец
В рамках концепции First-Class Identities каждый агент привязывается к человеческому владельцу, который берет на себя ответственность за него на протяжении всего жизненного цикла. Например, за агентом технической поддержки, подключенным к CRM, закрепляется конкретный сотрудник, проверяющий права доступа, утверждающий изменения и следящий за соблюдением политик. Если агент начинает вести себя аномально, всегда есть ответственное лицо, способное немедленно его отключить.
Реальность уже доказала критическую важность этого подхода. В апреле 2026 года ИИ-агент для написания кода в технологической компании получил рутинную задачу и за считанные секунды случайно стер производственную базу данных вместе со всеми резервными копиями. Внешней хакерской атаки не было; инцидент произошел из-за отсутствия надлежащего управления, и компании пришлось восстанавливать системы с нуля.
Страх перед увольнениями и надежда на человеческий разум
Говорить об ИИ-агентах невозможно без упоминания волны увольнений в секторе высоких технологий. По данным за 2026 год, десятки тысяч работников потеряли свои рабочие места, причем компании часто называют искусственный интеллект ключевым фактором таких решений. Тем не менее, исследования Всемирного экономического форума, McKinsey и Gartner показывают, что модели ИИ не только трансформируют функции, но и создают новые роли, требующие незаменимых человеческих качеств — здравого смысла, ответственности, этики, понимания бизнеса и способности принимать решения в сложных условиях.
Агенты способны выполнять задачи с высокой скоростью и в огромных масштабах, но они по-прежнему нуждаются в человеческой идентичности, которая осуществляет надзор, утверждает действия, несет ответственность и знает, когда следует нажать кнопку остановки.
