«Мы движемся к системам ИИ, которым можно доверять, но расстояние всё ещё велико»
Профессор Йоав Шохам, один из пионеров в области искусственного интеллекта, обсуждает текущие ограничения технологии. Он отмечает, что, несмотря на огромный хайп, индустрия сталкивается с проблемой ненадёжности систем и отсутствием доверия к их результатам.
Интервью с профессором Йоавом Шохамом проходит в офисах компании AI21 на улице Леонардо да Винчи в Тель-Авиве. Помещение выглядит почти пустым из-за продолжающейся войны и ракетных обстрелов города. На входной двери всё ещё висит табличка с шуткой: «Please do not enter, PURIM is loading» — память о празднике, который так и не состоялся. Шохам, глядя на украшения, оставшиеся в зале, сравнивает обстановку с Помпеями, застывшими во времени.
Шохам (70 лет) — один из ведущих мировых учёных в области исследований и применения ИИ. В отличие от жителей древнего города, проигнорировавших предупреждающие знаки, он внимательно следит за революцией ИИ, указывая на её скрытые сбои и опасные слепые зоны. Он не считает, что технология в ближайшее время уничтожит человечество, но призывает уточнить пространство ожиданий и очертить границы для систем, которые, как кажется, захватывают каждый аспект нашей жизни.
«До недавнего времени мир говорил о мощи технологии, — отмечает Шохам. — С одной стороны, звучали прогнозы о том, что программисты больше не понадобятся, а бизнес-модели изменятся. С другой стороны, говорили об “ужасных опасностях”, вплоть до гибели человечества. И утопия, и апокалипсис основаны на вере в неограниченную способность технологии и игнорируют её ограничения. Лишь недавно начали обсуждать реальные пределы искусственного интеллекта».
Проблема доверия и «статистической глупости»
На вопрос о том, что именно ограничивает развитие, Шохам отвечает:
«Существует огромный разрыв между интересом организаций к ИИ, вкладываемыми деньгами и тем, сколько продуктов реально запускается. Главная причина этого — ненадёжность систем, которые могут быть пустыми и глупыми. Они как блестящий сотрудник, который может одним взмахом руки разрушить компанию. Нельзя запускать продукт, если нет уверенности, что система не выдаст полную ерунду».
Шохам объясняет, что за ChatGPT стоит система, которая выбирает, какой инструмент использовать — например, калькулятор для математических задач вместо того, чтобы «изобретать колесо». Чем больше акцент будет сделан на валидации и использовании проверенных внешних инструментов, тем выше будет доверие к результатам. «Мы движемся в этом направлении, но расстояние всё ещё велико», — добавляет он.
Цена ошибки и «мани-депрессивный» рынок
Профессор подчеркивает, что в некоторых дисциплинах отсутствие 100% точности недопустимо. Если в прогнозе погоды статистический прогноз — это норма, то в медицине или финансовом анализе цена ошибки критически высока. Языковые модели часто звучат убедительно, но могут сочетать выдуманные факты с некогерентным мышлением.
Что касается текущего состояния рынка, Шохам называет его «мани-депрессивным»:
«Рынок идет за лозунгами, и сейчас популярна идея, что “программное обеспечение как услуга (SaaS) умерло”. Я немного боюсь этого, потому что там, где есть чрезмерные обещания, неизбежна болезненная коррекция. Сейчас уже начинают говорить о том, что нет убедительных применений ИИ, которые оправдывали бы столь огромные инвестиции».
Он также критикует явление «AI washing», когда компании называют себя «ИИ-компаниями» лишь для того, чтобы оправдать увольнения или привлечь внимание инвесторов, обесценивая тем самым само понятие экспертности в этой области.
Будущее AI21 и роль агентов
AI21 Labs, сооснователем которой является Шохам, сфокусировалась на корпоративном рынке. По словам профессора, фокус индустрии смещается от простых языковых моделей к «оркестровке» — управлению агентами ИИ, которые способны выполнять сложные задачи. Это позволяет значительно снизить количество галлюцинаций и ошибок.
На вопрос о будущем и о том, не станут ли люди «лишними», Шохам отвечает философски:
«Вопрос не в том, какие рабочие места исчезнут, а в объёме задач. Искусственный интеллект усилит явление, при котором компании будут вынуждены брать плату за приносимую ценность, а не за отработанные часы. Компьютер становится частью нас, и вопрос “кто мы, когда компьютер является частью нас” — это то, о чем нам действительно стоит думать».
