Миллионные отклонения в бюджете: использование ИИ сотрудниками раздуло расходы Amazon

Ошибки в том, как Amazon внедряла и эксплуатировала модели ИИ, а также отсутствие механизмов контроля в ее корпоративных системах привели к «катастрофическим отклонениям» в миллионы долларов, сообщает Financial Times.

В последние два года многие организации предоставляют сотрудникам доступ к моделям ИИ для помощи в текущих задачах, таких как написание кода, создание презентаций, подведение итогов встреч и выявление инсайтов в данных. Поначалу компании, особенно в сфере хайтека, поощряли сотрудников максимально расширять использование ИИ, иногда оценивая их работу по объему использования моделей через количество потребляемых токенов. Это привело к тренду под названием Tokenmaxxing, в рамках которого сотрудники максимизировали использование ИИ, иногда искусственным образом.

Однако компании осознали, что стоимость эксплуатации моделей зачастую превышает приносимую ими пользу, особенно при использовании в простых задачах. В Amazon на собственном опыте узнали, во сколько может обойтись бесконтрольное использование ИИ. Согласно Financial Times, на недавней командной встрече старшие инженеры заявили, что попытки передать задачи программирования моделям привели к «незапланированным» расходам.

В одном случае Amazon потратила 1,8 миллиона долларов, пытаясь использовать Claude от Anthropic для сопоставления данных авторов с записями на сайте компании, без успеха. Эти расходы представляли собой превышение на 860% по сравнению с запланированным бюджетом проекта и были обнаружены только через пять месяцев. Речь не идет об единичном инциденте. В другом случае Amazon понесла незапланированные расходы в размере 541 тысячи долларов в проекте по созданию инструмента финансового аудита. В еще одном инциденте, где ИИ использовался для улучшения скорости доставки в логистической системе, компания зафиксировала незапланированные расходы в размере 134 тысяч долларов, обнаруженные лишь через две недели.

По словам инженеров, ошибки кодирования, которые могут быть «дешевыми и тривиальными» в традиционных системах, становятся «катастрофически дорогими» при вовлечении ИИ. Сейчас специалисты работают над созданием автоматических защитных механизмов для предотвращения превышения расходов в будущих проектах.

«Трудно понять, сколько стоит все, что связано с ИИ», — отметил высокопоставленный сотрудник Amazon.

Эти инциденты незначительны по сравнению с масштабами деятельности Amazon, которая во втором квартале зафиксировала выручку в размере 200,61 миллиарда долларов и чистую прибыль в размере 62,65 миллиарда долларов. Однако они иллюстрируют проблемы интеграции ИИ и высокие непредвиденные расходы, которые могут быть связаны с этими системами. В мае этого года Amazon уже закрывала внутреннюю таблицу лидеров, ранжировавшую сотрудников по объему использования ИИ, после того как персонал начал раздувать потребление токенов ради рейтинга.

В ответ на запрос Amazon заявила: «Как и в случае с любой новой технологией, мы экспериментируем, учимся и совершенствуемся в ее использовании, включая оптимизацию расходов. Выборочный подбор небольших примеров, в которых команды учатся друг у друга, и представление их как обычного ведения бизнеса не отражает того, как команды в Amazon используют ИИ».