В Тель-Авиве пройдет митап об архитектуре ИИ-систем и оптимизации затрат

9 ноября в Тель-Авиве пройдет митап компании Papaya, посвященный оптимизации затрат на ИИ, архитектуре LLM, управлению контекстом и созданию внутренних инструментов разработки.

В Тель-Авиве пройдет митап об архитектуре ИИ-систем и оптимизации затрат
Фотоиллюстрация Digest: AI Generated

Профессиональный митап под названием «Own Your AI Stack» состоится 9 ноября в офисах компании Papaya в Тель-Авиве. Мероприятие посвящено инженерным трудностям, растущим затратам и архитектурным ограничениям при внедрении больших языковых моделей (LLM) в рабочие процессы компаний. Организаторами выступают разработчики Papaya и местное профильное издательство, а целевой аудиторией являются инженеры-программисты, архитекторы и специалисты по работе с данными.

Главная тема встречи — поиск баланса между использованием современных инструментов искусственного интеллекта, таких как Claude и Cursor, и возвратом к традиционному коду. Практический опыт показывает, что компании часто сталкиваются с неконтролируемым ростом бюджетов, медленной обработкой тяжелых массивов данных и недетерминированным поведением моделей.

Практические кейсы и доклады

Программа мероприятия включает два ключевых выступления, основанных на реальных инженерных ошибках и путях их преодоления. В рамках первой лекции эксперты разберут сценарии, в которых применение LLM является избыточным. На примере создания автономных агентов для управления рекламными кампаниями в Meta и анализа креативов спикеры покажут архитектурные изменения, потребовавшиеся для устранения узких мест.

Вторая презентация будет посвящена разработке внутреннего десктопного клиента Clodi, созданного инженерами Papaya в качестве альтернативы Claude Desktop. Переход с Cursor на Claude через инфраструктуру AWS Bedrock позволил снизить расходы, однако терминальные решения подошли не всем подразделениям — в частности, разработчикам Unity потребовался графический интерфейс. Это привело к созданию собственного клиентского приложения на базе Agent SDK, которое сегодня используется внутри компании на ежедневной основе.

Что получат участники митапа

Слушатели смогут ознакомиться с готовыми методологиями для оптимизации ИИ-архитектуры:

  • Модель принятия решений: четкие критерии выбора между языковыми моделями и традиционными API для экономии вычислительных ресурсов.

  • Мониторинг и отладка: внедрение инструмента Langfuse на ранних этапах для обеспечения прозрачности запросов.

  • Контроль затрат: анализ кэширования сессий, работы с длинным контекстом и оптимизация бюджетов при работе с облачными провайдерами.

  • Внутренняя разработка: принципы создания кастомных оберток, командных плагинов и эффективной обработки мультимедийных данных.

Участие бесплатное, однако из-за ограниченного количества мест требуется предварительная регистрация на сайте организаторов.

Читайте также