Финансовый интерес или идеология: Альтман и Амодеи против Цукерберга и Хуанга в споре об открытых моделях ИИ

Битва за открытые модели: руководители индустрии ИИ вступают в прямой конфликт вокруг регулирования моделей ИИ с открытым исходным кодом. С одной стороны — Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic, которые предупреждают о глобальной опасности открытых и неконтролируемых моделей. С другой стороны — Марк Цукерберг из Meta и Дженсен Хуанг из Nvidia, которые назвали чрезмерное регулирование «удушением» американских инноваций.

«Есть два лагеря, спорящих по этому вопросу, — сказал инвестор Билл Герли газете The New York Times. — Есть люди, которые хотят, чтобы OpenAI и Anthropic владели всем, а есть все остальные, включая потребителей».

Спор об открытых моделях ИИ разгорелся с новой силой после запуска Kimi K3, мощной открытой модели китайской компании Moonshot, возможности которой уступают лишь самым передовым разработкам OpenAI и Anthropic. В то время как закрытые модели, такие как GPT и Claude, доступны только в вычислительных средах компаний-разработчиков и подвержены их ограничениям, открытые модели, как и большинство китайских аналогов, могут быть запущены в локальной вычислительной среде, их легче дообучать и адаптировать.

В то же время инцидент, когда передовые модели OpenAI смогли выйти из своей тестовой среды в открытый интернет и проникнуть в вычислительную систему платформы Hugging Face, обострил дискуссию о потенциальной опасности мощных моделей ИИ. Сейчас руководители отрасли предупреждают об угрозах, связанных с мощными открытыми моделями, которые различные субъекты могут использовать без какого-либо контроля.

В посте, опубликованном в понедельник, Дарио Амодеи заявил, что не поддерживает полный запрет на открытые модели, но обеспокоен их мощностью: «Существует риск того, что мощные модели ИИ будут использованы для проведения кибератак или биологических атак. Открытые модели представляют больший риск, чем закрытые, поскольку на них очень сложно внедрить механизмы защиты или отслеживать их использование, и как только они распространяются, их невозможно удалить». Он добавил, что вместо тотального запрета следует сосредоточиться на предотвращении доступа авторитарных режимов к мощным чипам и проведении проверок безопасности моделей.

Тем не менее, The New York Times сообщила, что, вопреки публичным заявлениям, OpenAI и Anthropic лоббируют федеральное правительство США, выражая опасения по поводу китайских открытых моделей и требуя ограничений. Среди прочего, OpenAI просит администрацию Трампа разработать политику, которая обяжет проводить проверки безопасности для новых моделей.

У OpenAI и Anthropic есть явный интерес действовать против открытых моделей. У обеих компаний на сегодняшний день самые передовые модели на рынке. Однако китайские конкуренты быстро сокращают разрыв и завоевывают популярность. Любые ограничения, которые замедлят внедрение конкурирующих открытых моделей, послужат интересам этих компаний в период подготовки к выходу на биржу.

На другой стороне находятся технологические гиганты, которые однозначно поддерживают открытые модели. Nvidia — крупнейший из них. В пятницу генеральный директор Дженсен Хуанг опубликовал свой первый пост в X (бывший Twitter), поделившись открытым письмом ведущих деятелей индустрии: «Открытые модели повышают безопасность и киберзащиту, ускоряют инновации и обеспечивают суверенитет. Миру нужны как закрытые, так и открытые модели». Девять минут спустя к нему присоединился генеральный директор Microsoft Сатья Наделла, добавив: «Открытые модели необходимы для здоровой экосистемы ИИ».

В понедельник Марк Цукерберг перешел в наступление. В интервью The New York Times и Financial Times он раскритиковал компании, развивающие ИИ закрытым способом, заявив, что они «отказываются от наших ценностей» и душат инновации. По его словам, больше людей должны получить доступ к технологии ИИ: «Блокировка передовых китайских моделей ИИ в США не будет эффективным решением. ИИ в руках нескольких могущественных групп может стать слишком централизованным».

У этих компаний также есть явные интересы, стоящие за идеологической позицией. Nvidia зарабатывает на продаже чипов, поэтому заинтересована в минимальных ограничениях. Microsoft, как крупный оператор облачных сервисов, заинтересована в предоставлении доступа к как можно большему количеству моделей, чтобы максимизировать вычислительную мощность, которую она продает клиентам. Meta, в отличие от OpenAI, Anthropic и Google, фокусирует значительную часть своей деятельности на открытых моделях. Будучи аутсайдером в плане возможностей моделей, компания заинтересована в сохранении открытого рынка, чтобы предотвратить доминирование небольшого числа компаний, находящихся на передовой.