Ормузский пролив — самая маленькая проблема мира
Всего три дня прошло между запуском самой передовой модели искусственного интеллекта компании «Антропик» и ее блокировкой беспрецедентным правительственным указом. Является ли это реальным опасением за безопасность, политической борьбой за власть — или началом эры, в которой доступ к ИИ будет определяться по паспорту?
В минувший вторник компания «Антропик» запустила свою самую мощную модель за всю историю. Возможно, вы о ней слышали. «Мифос» ранее был предоставлен нескольким гигантским компаниям для обеспечения безопасности, чтобы убедиться в отсутствии уязвимостей, которые он мог бы использовать, а при их наличии — устранить до выхода на широкий рынок. В пятницу вечером, в 17:21 по времени восточного побережья США, он уже был заблокирован. Между этими двумя точками сжалось одно из самых беспрецедентных событий в индустрии искусственного интеллекта, и почти никто не заметил, насколько это серьезно.
Сухие факты: «Антропик» запустила «Фейбл 5» — первую публичную модель из семейства «Мифос» со встроенными ограничителями, предотвращающими работу с биологией, химией и другими «запретными» темами. Речь идет о самой мощной модели, превосходящей «Опус». Параллельно был запущен «Мифос 5» — та же модель, но в полной мощности и без защиты, доступная только узкой группе проверенных партнеров в сфере кибербезопасности и инфраструктуры. Разница между «Мифосом» и «Фейбл 5» заключается в способности отказывать в «опасных» запросах. И именно это беспокоит правительство: существует ли способ обойти защитный слой и добраться до мощного разума под ним? Весь спор сводится к вопросу о том, действительно ли эти «тормоза» работают.
Три дня спустя Министерство торговли США издало приказ об экспортном контроле, запрещающий доступ к обеим моделям любому иностранному гражданину внутри США и за их пределами, включая сотрудников «Антропик», не являющихся американцами. Чтобы подчиниться приказу, компания была вынуждена отключить обе модели для всех своих клиентов без исключения. Это первый случай, когда ведущая компания в области ИИ отключает модель, уже вышедшую в публичный доступ, из-за прямого вмешательства правительства. У этого нет прецедента.
Официальная причина: правительство полагает, что узнало о методе обхода защиты «Фейбл». «Антропик» в ответ утверждает, что речь идет не о взломе, а о запросе к модели прочитать базу кода и исправить в ней ошибки, и что эта способность доступна в любой конкурирующей модели, включая самую продвинутую модель «Оупен-Эй-Ай» (ChatGPT). Они называют это недопониманием и обещают опубликовать дополнительные подробности. На этом этапе ситуация звучит как технический спор, который разрешится через неделю. Но это не так.
Большинство людей знают ИИ по чатам: ты задаешь вопрос, получаешь ответ, составляешь письмо, резюмируешь документ. До сих пор это было постепенное улучшение. «Мифос» — это не еще одна ступенька на той же лестнице, это прыжок в совершенно другую категорию. Он способен делать вещи, которые предыдущие модели просто не могли, и прежде всего — находить дыры в безопасности в любом программном обеспечении. В чужих руках это смертельно опасно. Это инструмент мечты для защиты систем и оружие в руках того, кто их атакует.
Все стороны импровизируют в реальном времени, потому что нет правил игры. «Антропик» признают это, заявляя, что правительство должно иметь полномочия блокировать небезопасные модели, но «как часть прозрачного, справедливого и ясного процесса». Правительство же вытаскивает древний инструмент — экспортный контроль, полномочия, созданные для контроля экспорта чипов, оружия и физических технологий. Протокол, разработанный для мира контейнеров на кораблях, применяется к миру кода и численных весов.
Отношения между «Антропик» и правительством бурные уже несколько месяцев. В феврале Дональд Трамп и министр обороны Пит Хегсет запретили использование продуктов «Антропик» в федеральных агентствах после того, как компания попросила о более жестких ограничениях на то, как Пентагон использует ее технологию. Трамп даже назвал сотрудников компании «сумасшедшими леваками». А затем, как раз когда казалось, что они помирились, возникло самое резкое противоречие: на прошлой неделе «Файнэншл Таймс» сообщила, что Агентство национальной безопасности США использовало сам «Мифос» для проведения наступательных кибератак. То есть правительство использовало эту модель для своих наступательных возможностей — и через несколько дней заблокировало ее под предлогом национальной безопасности.
Источник внутри правительства сообщил сайту «Аксиос», что произошло на самом деле: правительство пыталось убедить «Антропик» отложить запуск новых моделей, потерпело неудачу — и только тогда отправило письмо об экспортном контроле. Тот же источник рассказал, что модель должна оставаться заблокированной, пока система национальной безопасности США не «укрепится», что может произойти в течение нескольких недель. Другими словами: это не «мы обнаружили опасную дыру», а «мы просили вас подождать, вы отказались, поэтому мы вас заставили».
Отсюда возникают три возможных варианта, и все они тревожные. Возможно, это действительно техническое недопонимание. Возможно, это силовой ход в рамках долгой борьбы, козырь в переговорах о том, кто контролирует доступ к моделям. А возможно, здесь есть реальное опасение за безопасность, которое не было раскрыто полностью. Настойчивость именно на «иностранных гражданах» намекает, что речь может идти о конкретном иностранном факторе, который правительство не хочет называть.
До сих пор ИИ продавался как нечто универсальное. Этот приказ разрушает данное предположение и устанавливает, что самая передовая способность, которая существует, будет распределяться по паспорту. И как только это становится принятым принципом, открывается бездна — не по деньгам и не по таланту, а по гражданству. И это самое худшее, потому что это бездна, которая расширяется сама по себе. Гражданин, использующий передовую модель для поиска уязвимостей, планирования лекарств, ускорения исследований, накапливает кумулятивное преимущество. Все остальные застревают с предыдущим поколением.
Если Вашингтон устанавливает, что передовые модели являются активом, контролируемым экспортом, Китай сделает то же самое со своими, а затем Европа почувствует, что она должна иметь свой суверенитет. Вместо одной глобальной сети получаются блоки — у каждой державы будет свой ИИ, заблокированный внутри своих границ. Легко смотреть на этот заголовок и сравнивать его с событиями, которые кажутся более масштабными — напряженность в Ормузском проливе, энергетический кризис, угроза войны. Но для них есть сценарий, которому десятки лет. Для вопроса о том, кто контролирует доступ к передовому ИИ и по каким правилам, еще нет никакого механизма борьбы. То, что начинается как технический спор на три дня, может закончиться как новая линия границы мира, в котором мы не хотим жить, и заставить Ормузский пролив выглядеть как наша самая маленькая проблема.
