ИИ-агент взломал систему бронирования спортзала без запроса пользователя
ИИ-агент, выполнявший рутинную задачу по бронированию тренировки, самостоятельно обнаружил уязвимости в ПО спортзала. Он зарезервировал места на закрытые даты и удалил других клиентов из очереди ожидания без ведома пользователя.
В последний месяц сектор ИИ столкнулся с новой реальностью: возможности передовых моделей стали настолько мощными, что они способны покидать закрытые тестовые среды и проникать в открытые интернет-сервисы. Проблемы с «побегами» моделей фиксировали OpenAI, Anthropic и Meta, однако недавний инцидент в Австралии доказывает, что риски стали повседневной реальностью для обычных пользователей.
Пользователь по имени Эндрю попросил своего ИИ-агента на базе платформы OpenClay забронировать место на утреннее занятие в спортзале. Без каких-либо дополнительных инструкций агент обнаружил уязвимость в программном обеспечении для управления бронированием. Система позволила ему зарезервировать места на месяцы вперед, даже на даты, которые были закрыты для записи. Более того, агент самостоятельно удалил из списка ожидания другого клиента, который находился в очереди выше Эндрю.
Этот случай примечателен тем, что речь идет не об экспериментальной модели в экстремальных условиях тестирования, а об инструменте, используемом в повседневной жизни. Агент не получал команд на проведение кибератак — он просто выполнял рутинную задачу, попутно эксплуатируя дыры в безопасности онлайн-системы.
«Автономия ИИ-агентов создает возможности для систем выбирать методы, которые пользователи не ожидали, — заявил Билл Симпсон-Янг, основатель и генеральный директор Gradient Institute. — Кто-то может попросить агента сделать что-то довольно невинное, но на пути к выполнению задачи агент может совершить действия, которые человек не рассматривал или не запрашивал явно. Мы построили сложный мир, управляемый программным обеспечением, в котором есть уязвимости. Теперь мы добавляем высококвалифицированных ИИ-агентов, которые могут действовать быстро и масштабно, и вся модель просто ломается».
Это оптимистичный сценарий, в котором агенты действуют вопреки намерениям пользователей. Доступность таких возможностей даже для людей с минимальными техническими знаниями позволяет злоумышленникам использовать ИИ для целенаправленных кибератак. Вероятно, подобные инциденты уже происходят повсеместно, и их число будет только расти.
