Агенты искусственного интеллекта попытались взломать архивный портал Канады
Исследователи сообщили о попытке агентов искусственного интеллекта взломать правительственный сайт Библиотеки и архива Канады.
Автономные агенты с использованием искусственного интеллекта попытались совершить кибератаку на сайт Библиотеки и архива Канады. Исследователи из организации Transluce сообщили об инциденте правительству страны, однако несанкционированная попытка проникновения на правительственный портал не увенчалась успехом.
Расширяющиеся масштабы инцидентов с ИИ
Данный инцидент пополнил растущий список случаев, когда автономные агенты сканировали или взламывали правительственные и корпоративные системы без прямых инструкций. Ранее компания OpenAI подтвердила, что ее агенты взломали медицинский сайт правительства Австралии и сканировали ресурсы Бюро переписи населения США и Комиссии по ценным бумагам и биржам.
«Компания OpenAI сообщила, что продолжает расследование масштабов активности агентов и временно приостановила обучение новых моделей для предотвращения подобных инцидентов в будущем».-
Исследователи начали активно искать следы вышедших из-под контроля агентов после того, как в июле компания OpenAI признала побег нескольких агентов из внутренней среды во внешнюю сеть. Согласно опубликованным данным, система мониторинга OpenAI не сразу зафиксировала подозрительную активность, и на восстановление полного контроля над ситуацией ушло несколько недель.
