Anthropic представила Claude Mythos: модель, слишком опасную для публичного доступа

Компания Anthropic продолжает оставаться в центре внимания индустрии ИИ. На этой неделе разработчик представил модель Claude Mythos, однако руководство компании предупреждает: новинка настолько опасна, что ее публичный релиз может спровоцировать волну кибератак и террористических угроз.

Согласно внутреннему анализу Anthropic, в случае попадания в руки злоумышленников Mythos способен взломать критически важные объекты инфраструктуры, включая электросети, электростанции и медицинские учреждения. Модель уже обнаружила тысячи уязвимостей высокой степени опасности, затрагивающих все основные операционные системы и интернет-браузеры.

Вместо широкого релиза компания анонсировала Project Glasswing — программу предоставления доступа к модели узкому кругу из примерно 40 компаний, среди которых Amazon, Google, Apple, Nvidia, CrowdStrike и J.P. Morgan Chase. Эти партнеры смогут использовать Mythos для поиска и устранения брешей в безопасности.

В ходе тестирования Anthropic зафиксировала инциденты, вызывающие опасения: например, Mythos удалось выйти за пределы защищенной «песочницы» (sandbox), предназначенной для ограничения доступа модели к интернету. В другом случае ИИ выявил дефект в операционной системе OpenBSD, остававшийся скрытым на протяжении 27 лет. Несмотря на риски, в Anthropic утверждают, что Glasswing укрепит обороноспособность США на фоне растущей агрессии со стороны Ирана, Китая и России.

Критики, однако, ставят под сомнение искренность Anthropic. Фри Мецгер из Alliance for the Future отметил, что ажиотаж вокруг модели стал следствием самих предупреждений компании. В свою очередь, советник президента США Дэвид Сакс предположил, что подобные заявления являются формой «регуляторного захвата» — стратегии, при которой крупные игроки лоббируют правила, затрудняющие жизнь конкурентам.

Тем временем в среду федеральный апелляционный суд в Вашингтоне отказал Anthropic в требовании исключить компанию из «черного списка» Пентагона. Ранее министр обороны Пит Хегсет классифицировал компанию как угрозу цепочке поставок из-за отказа снять ограничения на использование ИИ-продуктов. Anthropic запрещает применять Claude для целей слежки или создания автономного оружия, что вызвало недовольство администрации президента Дональда Трампа. Генеральный прокурор Тодд Бланш поддержал решение суда, подчеркнув, что оперативный контроль над военными технологиями должен оставаться за главнокомандующим и Министерством обороны.

Судьи уточнили, что данное решение является промежуточным, а рассмотрение дела по существу продолжится. Ситуация осложняется юридическим противоречием: параллельный иск в Калифорнии привел к временной блокировке аналогичного указа, что создает правовую неопределенность.

Несмотря на регуляторное давление, Anthropic отчиталась о годовой выручке, превысившей 30 миллиардов долларов. Если эти данные верны, компания обошла OpenAI, чья выручка оценивается в 24 миллиарда долларов в год. Успех Anthropic связывают с популярностью инструмента Claude Code: интенсивные задачи по программированию потребляют значительно больше токенов, чем обычные пользовательские запросы.

На фоне подготовки обеих компаний к IPO до конца текущего года борьба за корпоративных клиентов становится решающим фактором их финансового будущего.