Хакер ИИ — не гений. Он последователен

Публикации о кибератаках, совершенных с помощью ИИ, обычно представляют сценарий сложного инструмента атаки: система, обнаружившая скрытую уязвимость, написавшая код, о котором человек бы не подумал, или обошедшая защиту особенно блестящим способом. Легко понять привлекательность этого сценария, но он упускает из виду более непосредственную, тихую и менее гламурную опасность: способность использовать один и тот же метод атаки снова и снова против гораздо большего числа систем.

Чтобы ИИ стал мощным инструментом атаки, ему не нужно изобретать что-то новое. Как только злоумышленники понимают, почему работает определенный метод, система может искать те же условия в других системах, адаптировать проверку к различиям между ними и продолжать работу даже после неудачных попыток. Во многих случаях основная сложность заключается в первом обнаружении. С этого момента система увеличивает количество попыток и количество систем, которые можно проверить.

В исследовании, которое мы провели на приложениях Android, имитирующем методы работы реальных злоумышленников, исследователи на первом этапе обнаружили семь уязвимостей при ручной работе. После того как мы определили общие условия, которые их создали, мы запустили систему на 20 приложениях. Инструмент атаки нашел еще пять уязвимостей из того же семейства, наряду с отдельной уязвимостью, которая позволила захватить учетную запись. В каждом из приложений код, интерфейс и разрешения выглядели иначе.

Система не могла ограничиться повторным запуском той же команды. Ей требовалось определить, существуют ли эти условия в каждом приложении и как именно, а также адаптировать проверку к его структуре. Постоянные правила хорошо работают, когда все этапы и реакции известны заранее. В тестах на безопасность каждая система реагирует по-своему, неудача требует смены направления, а частичная находка влияет на следующий шаг.

Система, способная адаптировать проверку к тому, что она уже нашла, может перемещаться между многими системами без того, чтобы исследователь сопровождал каждую попытку от начала до конца. Что отличает ее от более быстрого скрипта, так это способность изменять проверку в зависимости от того, что найдено по пути. Система должна понимать контекст каждой цели. Она не может слепо запускать фиксированный сценарий, она должна понимать, как устроена цель, выявлять паттерны, которые не были определены заранее, и решать, какие находки указывают на реальный риск.

При ручной работе каждая дополнительная цель требует дополнительного времени исследователя. Когда ИИ выполняет адаптацию самостоятельно, можно проверять многие системы и с большей частотой, не начиная каждый раз заново и не прикрепляя исследователя к каждой цели. Агенты ИИ могут снова и снова выполнять целую последовательность действий.

В другом исследовании, которое мы провели на платформе с открытым исходным кодом для управления конференциями Pretalx, мы показали, что агенты могут подавать фиктивные предложения докладов на различные конференции и ждать ожидаемого действия организаторов, такого как подтверждение доклада, которое активирует уязвимость. Задача, которая раньше требовала отслеживания и ручной работы, может выполняться параллельно против многих целей.

Злоумышленнику не нужно преуспевать во всех попытках, и даже не в большинстве из них. Достаточно одного успеха. По мере того как стоимость каждой дополнительной попытки снижается, автоматическая система может пробовать тот же метод атаки против многих целей, не добавляя рабочую силу и не выбирая заранее только те цели, которые кажутся многообещающими.

Организация, напротив, должна защищать множество приложений, API-интерфейсов, разрешений и бизнес-процессов, которые меняются вместе с кодом. Подключение нового сервиса, изменение связи между двумя компонентами или расширение разрешений могут открыть путь атаки, которого не было при предыдущей проверке. Ежегодный или ежеквартальный тест на проникновение — это моментальный снимок. Он может быть профессиональным и глубоким, но он описывает систему в день, когда она была проверена.

Недели спустя код уже изменился, разрешения были обновлены, а новые сервисы добавлены. Злоумышленник, который продолжает попытки, не ждет следующей проверки. Более глубокое изменение, которое ИИ привносит в мир кибербезопасности, — это не способность заменить эксперта, а сокращение расстояния между одним открытием и огромным количеством попыток. Метод атаки, на разработку которого потребовались время, творческий подход и опыт, может быть проверен после этого снова и снова, против различных систем и с гораздо меньшими затратами.

Поэтому угроза начинается не в той точке, где машина будет думать лучше, чем человек-исследователь. Она начинается, когда идея одного человека может продолжать действовать в масштабах, которых один человек или группа злоумышленников не могли достичь в прошлом. Перед лицом такой способности защите, которая проверяется и обновляется лишь раз в несколько месяцев, будет трудно идти в ногу со временем.

Идо Гефен — соучредитель и генеральный директор киберкомпании Novee Security