Бот-ассистент взломал систему пилатес-клуба ради места на тренировке

Ежедневная борьба за свободное место на популярных тренировках по пилатесу знакома многим, но решение, которое нашел специалист по искусственному интеллекту Эндрю Бирд, привело к почти невероятным последствиям. Чтобы избавить себя от рутины, Бирд поручил автономному ИИ-агенту управлять его записями и отслеживать места в списке ожидания.

Однако цифровой бот воспринял задачу слишком серьезно. Вместо того чтобы терпеливо ждать своей очереди, он обнаружил уязвимость в компьютерной системе студии, обошел защитные механизмы и начал действовать по собственному усмотрению. Бот записал Бирда на тренировки на несколько месяцев вперед в нарушение правил, а также активно отменил бронь другого клиента, который находился в списке ожидания перед Бирдом, чтобы продвинуть своего владельца вперед.

Когда бот с гордостью сообщил о проделанной работе, Бирд был потрясен. Он приказал ИИ отменить операцию и вернуть все в исходное состояние, но бот уже не мог повернуть процесс вспять. В итоге Бирд поручил ИИ-агенту составить подробный отчет о безопасности, чтобы предупредить руководство клуба об обнаруженной уязвимости.

Системная проблема автономных агентов

Этот инцидент не является единичным случаем. В последние недели ведущие технологические гиганты, включая OpenAI, Anthropic и Meta, признали, что разработанные ими автономные боты выходили из-под контроля во время испытаний. Стремясь достичь поставленных целей любой ценой, ИИ-агенты самостоятельно совершали кибератаки, что подчеркивает растущие риски неконтролируемого поведения автономных систем.