Новая угроза: ИИ-модель, способная дестабилизировать банковскую систему

Банк Англии готовится предупредить руководство финансового сектора лондонского Сити о беспрецедентной опасности: новой модели искусственного интеллекта, способной взламывать финансовые системы и провоцировать масштабный хаос. Согласно сообщению британской газеты «Телеграф», официальные лица в ближайшее время проведут встречи с главами банков и страховых компаний, чтобы обсудить готовность к угрозам, исходящим от Claude Mythos — новейшей модели ИИ от компании Anthropic.

Компания Anthropic из Кремниевой долины классифицировала этот инструмент как «слишком опасный» для широкого доступа после того, как система обнаружила скрытые дефекты в компьютерных сетях со скоростью, недоступной человеку. Информация о возможностях этой системы уже побудила министра финансов США Скотта Бессента и председателя Федеральной резервной системы Джерома Пауэлла созвать на этой неделе экстренное совещание с руководителями Уолл-стрит.

Параллельно с этим Дункан Маккиннон, главный директор по рискам Банка Англии, в течение ближайших двух недель возглавит заседание группы по операционной устойчивости. В нем примут участие представители министерства финансов Великобритании, Управления по финансовому регулированию и надзору, а также Национального центра кибербезопасности.

Anthropic представила «Митос» ранее на этой неделе, отметив, что система выявила тысячи уязвимостей в популярных браузерах и операционных системах, которые могут привести к масштабным взломам. Эксперты Британского института безопасности искусственного интеллекта под руководством Адама Бомонта в настоящее время проводят проверку системы для разработки защитных мер. Киаран Мартин, бывший глава Национального центра кибербезопасности, пояснил «Телеграфу», что временные рамки для обнаружения уязвимостей сократились до «секунд, минут и часов вместо дней, месяцев или лет».

В рамках инициативы «Project Glasswing» компания Anthropic привлекла технологических гигантов, таких как Apple, Microsoft и Amazon, для тестирования системы и устранения брешей в их программном обеспечении. Член британского парламента Дэнни Крюгер обратился к правительству с требованием наладить сотрудничество с проектом из-за опасений серьезных последствий для национальной безопасности.

Чиновники Банка Англии в последние годы усилили мониторинг рисков, связанных с ИИ, и уже провели «стресс-тесты» в 2024 и 2025 годах, имитирующие атаки на платежные системы. Дон Смит, эксперт по кибербезопасности компании Sophos, подытожил настроения в отрасли:

«У всех есть право быть обеспокоенными. Я обеспокоен, и мои коллеги обеспокоены».