Доклад Anthropic: Иран использовал американские модели ИИ для слежки за военными кораблями США
Доклад Anthropic раскрывает попытки Ирана использовать ИИ-модели для слежки за кораблями США. В документе описаны угрозы биобезопасности, шпионажа и кибератак.
Иран попытался использовать модели искусственного интеллекта, разработанные в США, для отслеживания кораблей военно-морских сил США на Ближнем Востоке. Об этом говорится в докладе компании Anthropic, предупреждающей о новых угрозах национальной безопасности, основные положения которого приводит газета The Wall Street Journal.
Согласно документу, группа, связанная с Ираном, собирала данные с систем судовой и авиационной идентификации, военных и коммерческих спутниковых снимков для отслеживания американских военных кораблей и поиска уязвимостей в их системах связи. В компании Anthropic заявили, что им удалось пресечь эту попытку Ирана, использовавшего передовую модель Claude.
Угрозы национальной безопасности и биологические исследования
Американское издание отмечает, что эта находка стала одной из нескольких угроз, описанных в 154-страничном докладе. Документ представляет собой свое «руководство к действию», демонстрирующее, как противники США используют искусственный интеллект в новых целях, представляющих серьезную угрозу национальной безопасности: разработка новых ракет, агрессивные кампания по дезинформации, шпионаж за диссидентами и даже изучение возможности создания биологического оружия.
В последние дни президент США Дональд Трамп ответил на вопрос, опасается ли он, что искусственный интеллект приведет к уничтожению человечества. «Нет, у меня нет таких опасений», — заявил он, пояснив, что его беспокоит лишь риск того, что США не выиграют глобальную гонку в сфере искусственного интеллекта.
Практически одновременно Anthropic опубликовала данные о том, что уже происходит на практике: ученые использовали модель Claude для исследований, призванных помочь в разработке биологического оружия, а структуры, связанные с враждебными государствами, такими как Иран, Йемен и Россия, применяли ее для разработки вооружений, шпионажа, пропаганды и слежки. Anthropic сообщила о пяти подобных случаях биологических исследований, выявленных за последние месяцы. По заявлению компании, это первый случай, когда частная ИИ-компания публикует данные о возможном использовании своей платформы для разработки биологического оружия. При этом в компании подчеркнули, что за этими инцидентами не обязательно стояли террористические заговоры, а имена ученых, активистов, институтов и стран не раскрываются.
Методы обхода защиты и внутренние предупреждения
Согласно докладу, в некоторых случаях пользователи обходили географические блокировки и скрывали свои истинные цели, чтобы обойти механизмы безопасности Claude. Несмотря на то, что тесты 2025 года показали, что модели Claude не способны существенно помочь в опасных биологических исследованиях, с тех пор были выпущены еще более продвинутые версии. В Anthropic объявили, что добавили новые уровни защиты и заблокировали выявленные аккаунты.
Доклад был опубликован через два дня после того, как 27-летний исследователь Джейкоб Куксон, работавший в Anthropic, объявил о своей отставке и открыто выступил против компании.
«Ни одна из компаний не ведет себя ответственно, — написал он. — Они мчатся к сверхинтеллектуальной системе, способной к самосовершенствованию, и ставят на кон жизни всех нас».
Куксон уточнил, что в настоящее время угрозы вымирания от существующих моделей нет, но предупредил, что темпы прогресса могут быстро это изменить. Оуэн Хабинг, руководящий в Anthropic исследованиями по адаптации моделей под человеческие ценности, публично согласился с этим и оценил вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие более чем в десять процентов.
