С израильским акцентом: Microsoft представляет систему киберзащиты на основе агентов ИИ

Microsoft представляет сегодня вечером (в понедельник) новую систему киберзащиты на основе агентов искусственного интеллекта под названием Perception, которая, по заявлению компании, призвана вывести киберзащиту на новый уровень в эпоху ИИ. Параллельно компания представляет модель ИИ для кибербезопасности, которая, по ее словам, способна обеспечить более высокую производительность при выявлении уязвимостей, чем модель Mythos от Anthropic. Часть возможностей, представленных компанией, была разработана в израильском центре НИОКР технологического гиганта.

На прошлой неделе OpenAI раскрыла, что передовые модели, которые она тестировала, смогли сбежать из своей закрытой тестовой среды в открытый интернет и взломать компьютерные системы платформы Hugging Face в ходе операции, которая длилась несколько часов, но для выполнения которой квалифицированному специалисту потребовались бы дни. Этот инцидент прояснил, что будущее, о котором предупреждали эксперты по кибербезопасности, в котором автономные агенты ИИ осуществляют сложные и опасные взломы без участия человека, на самом деле уже стало реальностью. Новая система киберзащиты Microsoft, Perception, была построена, по словам компании, специально для этой новой реальности.

«Искусственный интеллект меняет правила игры в мире кибербезопасности», — сообщила компания в пресс-релизе. «Сегодня злоумышленники могут разрабатывать атаки с более высокой скоростью, масштабировать их в беспрецедентных объемах и адаптировать их индивидуально, в то время как организации должны защищать более сложные цифровые среды, включающие идентификационные данные, приложения, облака, данные и системы ИИ. В этой реальности традиционные решения по безопасности, созданные для мира, в котором люди принимали большинство решений, с трудом справляются с атаками на основе ИИ, действующими с беспрецедентной скоростью и в беспрецедентном масштабе».

В центре Perception находятся модели ИИ и автономные агенты, которые используют соответствующую внутреннюю информацию каждой компании для создания проактивной защиты, ориентированной на выявление и снижение киберугроз. Она опирается на три типа агентов, которые работают вместе:

• Агенты Red Team, которые выявляют бреши и возможные векторы атак в системах организации

• Агенты Blue Team, которые изучают находки на фоне организационного контекста и оценивают, какие из них представляют реальный риск

• Агенты Green Team, которые применяют находки для выполнения действий по исправлению и закрытию брешей

Работа агентов использует то, что Microsoft называет Security Context — актуальную картину состояния организационных активов, идентификационных данных пользователей, приложений, облачных сред, систем ИИ и соответствующих киберугроз. «Этот слой позволяет агентам ИИ понимать значение каждого инцидента безопасности, расставлять приоритеты рисков и принимать решения более точно, последовательно и эффективно, при этом снижая вычислительные затраты, необходимые для работы системы в широком масштабе. Вместо того чтобы каждый агент должен был собирать и анализировать информацию самостоятельно, все они работают на основе одной и той же общей картины состояния», — сообщили в компании.

Наряду с системой Microsoft также представила первую модель ИИ для кибербезопасности собственной разработки. Модель AI-Cyber-1-Flash предназначена для выявления уязвимостей безопасности в программных системах, подобно модели Mythos от Anthropic. По словам Microsoft, когда модель работает в сочетании с MDASH (системой сканирования безопасности на основе агентов ИИ, которую компания представила в мае), она получает оценку 96 в тесте CyberGym, что на 12 пунктов выше, чем у Mythos.

Значительная часть новых возможностей основана на работе, проделанной в центре НИОКР Microsoft в Израиле. По словам компании, система была разработана в Израиле и станет первым решением, в котором будет внедрена модель кибербезопасности Microsoft. «Таким образом, одна из первых возможностей, реализующих на практике видение Project Perception, основана на израильской разработке, как часть нового поколения защитных решений, которые Microsoft разрабатывает для эпохи искусственного интеллекта», — было заявлено.