Сколько токенов вы «сожгли»? Дженсен Хуанг задает новый стандарт продуктивности в ИИ
Генеральный директор NVIDIA Дженсен Хуанг предложил измерять продуктивность инженеров объемом потребляемых ими токенов — базовых единиц работы моделей ИИ. В Кремниевой долине этот показатель становится новым критерием эффективности, однако эксперты предупреждают, что погоня за «токеномаксингом» может обернуться экономической ловушкой и рисками для безопасности.
Мировой рынок программного обеспечения пристально следит за каждым заявлением Дженсена Хуанга, генерального директора NVIDIA. В недавнем подкасте «All-In» Хуанг спровоцировал дискуссию о прогнозах роста и использовании «токенов» — базовых единиц, отражающих объем работы моделей искусственного интеллекта.
Токен — это строительный блок, который системы ИИ используют для обработки и генерации текста. Чем сложнее задача, тем больше токенов потребляет система.
«Допустим, вы платите инженеру или исследователю ИИ 500 тысяч долларов в год, — пояснил Хуанг. — Если я спрошу его, сколько он потратил на токены, и он ответит: "5 000 долларов", я сойду с ума. Если этот инженер не потребил токенов на сумму хотя бы 250 тысяч долларов, я буду обеспокоен». Хуанг сравнил это с отказом дизайнера чипов от инструментов CAD в пользу бумаги и карандаша.
Что такое токен?
Это базовая единица обработки языковых моделей (например, слово или слог), своего рода «сырье», которое компьютер потребляет для понимания и создания текста. Объем «сожженных» токенов напрямую конвертируется в денежные затраты и потребление энергии.
Новый показатель продуктивности
Хуанг фактически задает новый критерий для рынка труда: уровень «ведущего таланта» теперь измеряется объемом использования токенов. На вопрос, инвестирует ли сама NVIDIA около 2 миллиардов долларов в покупку токенов для своих команд, он ответил кратко: «Они пытаются».
По словам Хуанга, доступ к вычислительным ресурсам стал критическим фактором в конкуренции за кадры. «В Кремниевой долине это стало инструментом найма: сколько токенов прилагается к моей работе? Причина ясна: инженер с доступом к токенам более продуктивен», — отметил он.
Конкуренция за «рекордсменов по токенам» в технологических компаниях принимает серьезные масштабы. В OpenAI один инженер достиг пика потребления в 210 миллиардов токенов за неделю, что эквивалентно 33-кратному заполнению всего контента Википедии. У конкурента Anthropic сотрудник, использующий систему Claude Code, за месяц потребил ресурсов на 150 тысяч долларов.
В компаниях вроде Meta и Shopify использование ИИ-инструментов стало частью оценки производительности. Сотрудники соревнуются друг с другом, а данные отображаются на внутренних досках показателей. В New York Times это явление окрестили «Tokenmaxxing» — попыткой доказать свою эффективность через максимальное потребление ресурсов ИИ.
Критика метрики
Не все разделяют энтузиазм Хуанга. Профессор Охад Фрид из Университета Райхмана считает количество токенов на разработчика «плохой метрикой». «Это напоминает устаревшее убеждение, что количество строк кода — показатель качества, — говорит он. — Потребности зависят от задачи. То, что вы использовали много токенов, не означает, что вы создали хороший результат». Фрид проводит аналогию с курьером: «Оценивать разработчика по количеству токенов — все равно что оценивать курьера пиццы по объему сожженного топлива. Хороший курьер может знать короткие пути и тратить меньше».
Фрид также напоминает об экономических интересах NVIDIA: «У компании, производящей чипы, есть огромный интерес в том, чтобы потребление токенов росло». Кроме того, он предостерегает от рисков безопасности: «Соблазн сделать "запустил и забыл" велик, но это подвергает компании уязвимостям, утечкам секретов и запуску вредоносного кода».
Ури Элиабиев, консультант в области ИИ, согласен, что использование языковых моделей — это революция, но подчеркивает: «Цель не в том, чтобы тратить как можно больше денег на вызовы API, а в том, чтобы писать эффективный код. Умное проектирование агентов, напротив, может снизить затраты».
Кто выигрывает от «токеномании»?
Выгодоприобретатели очевидны: NVIDIA, на чьей инфраструктуре выполняются вычисления, и разработчики моделей. Однако эксперты, такие как Умеш Сачдев из Uniphore, предлагают альтернативу — малые языковые модели (SLM). По его словам, они могут быть до 100 раз дешевле, обеспечивая при этом более высокую точность и предсказуемость для бизнес-процессов. Тем временем, гиганты вроде Google уже сообщают об обработке более 1,3 квадриллиона токенов в месяц, подтверждая, что масштаб использования ИИ продолжает расти экспоненциально.
