Будущее ИИ: от генеративных моделей к детерминированной надежности

Мечта о домашнем роботе, который будет мыть посуду, убирать дом и даже выводить собаку на прогулку, гораздо ближе, чем можно подумать. В течение двух-трех лет ожидается выход на рынок первых коммерческих предложений домашних роботов. То, что делает эту революцию возможной, — это, конечно, постоянное улучшение аппаратного обеспечения, но главным образом развитие моделей на базе искусственного интеллекта (ИИ), способных понимать физический мир, взаимодействовать с окружающей средой и надежно выполнять задачи.

И прежде чем мы увидим роботов повсюду, мы увидим виртуальных роботов, Агентов (Agents), которые являются «цифровыми сотрудниками». Одним из самых больших препятствий в реализации этого видения, особенно в чувствительных средах, является баланс между генеративными способностями и детерминизмом. В таких областях, как поиск информации или обслуживание клиентов, можно допустить определенную вариативность в ответах. Но в таких областях, как медицина, финансы или робототехника, точность не является предметом переговоров. Домашний помощник, который по ошибке идентифицирует керамическую чашку как деревянную, возможно, не нанесет большого ущерба, но в средах, где безопасность критична, например, в больницах или на производственных линиях, такие ошибки могут стать роковыми.

Из этого вытекает центральный вопрос: как нам заставить модели ИИ быть последовательными, объяснимыми и предсказуемыми, особенно в приложениях, где точность жизненно важна?

В медицине или налогообложении, например, модели должны выдавать абсолютно точные и надежные ответы, так же и в робототехнике. Способность доказать, что система на базе ИИ всегда будет давать одну и ту же реакцию на одни и те же входные данные, — это то, что позволит обеспечить широкое внедрение.

Хорошей аналогией здесь является промышленная производственная линия: когда автомобиль BMW сходит с конвейера, он соответствует строгим стандартам. Каждая машина должна функционировать идеально, отклонения неприемлемы. И поэтому существующие роботы на производственной линии работают по четкому алгоритму, жестким инструкциям и без права на усмотрение.

Компаниям нужен ИИ, который может заранее предсказывать поведение — действовать безопасно, последовательно и в соответствии с политикой организации. «Хорошие» цифровые сотрудники — это сотрудники, которым менеджерам легко доверять, они не действуют случайным образом, не отклоняются от процедур и не совершают действий, которые невозможно объяснить.

Поэтому для профессионального рынка системы ИИ должны быть предсказуемыми, точными и поддающимися прогнозированию и объяснению. Они должны обеспечивать как бизнесу, так и потребителям уверенность в том, что они будут действовать последовательно и безопасно. Только после того, как мы достигнем такой определенности, эти цифровые сотрудники смогут думать и решать проблемы так, как это делают люди.

Доверие — это основа внедрения технологий ИИ. Большинство компаний изучают и экспериментируют с интеграцией искусственного интеллекта, но лишь немногие компании успешно внедряют его на практике для значимых процессов. Причина этого проста: прежде чем организации запустят системы в широком масштабе, ИИ должен обеспечивать детерминированные результаты.

Системы ИИ, особенно когда они принимают решения, должны быть последовательными, безопасными и естественным образом интегрироваться в свою среду. В корпоративной среде организация должна иметь возможность определять политику точно так же, как она делает это для сотрудников-людей, не управляя каждым отдельным решением, которое принимает цифровой сотрудник. ИИ должен принимать решения, соответствующие процедурам компании, сохраняя при этом безопасность, эффективность и положительный возврат инвестиций.

Для стартапов большая возможность кроется в способности превратить общие модели, эти «черные ящики», в системы, которые одновременно мощны и предсказуемы. Это означает:

• Глубокая связь с уникальными знаниями и организационными процессами

• Тестирование и проверка, гарантирующие последовательные результаты

• Построение архитектур, позволяющих точно контролировать поведение модели

• Внедрение уровней безопасности, предотвращающих непредвиденное поведение

• Защита конфиденциальности и доступа к информации

В заключение, в ноябре мы отпраздновали 3 года ChatGPT. В ближайшие годы мы увидим, как мир меняется, и главной проблемой является не интеллект, а адаптация к потребностям организации. Будущее принадлежит системам ИИ, которые смогут перейти от вероятностного мышления (probabilistic reasoning) к детерминированной надежности. Компании, которые смогут совершить этот переход и превратят сегодняшние генеративные модели в контролируемые, предсказуемые и безопасные системы, станут теми, кто установит следующий стандарт индустрии. И именно там кроются самые большие инвестиционные возможности.