Экс-разработчик OpenAI создал модель Jev без генерации текста по заветам Канемана

Бывший разработчик OpenAI Диого Алмейда покинул компанию и вместе с партнерами основал стартап TypeSafe AI. Недавно компания представила свой первый продукт под названием Jev, который мгновенно стал вирусным хитом в технологическом сообществе. В отличие от традиционных больших языковых систем, создающих текстовые массивы, программный код или графику, новая разработка не генерирует ни единого слова.

Вдохновлено трудами Даниэля Канемана

В основе Jev лежит концепция System One, опирающаяся на труды израильского психолога, лауреата Нобелевской премии профессора Даниэля Канемана. Вместо медленного и глубокого аналитического мышления System Two система имитирует интуитивное и быстрое принятие решений. Модель возвращает исключительно предварительно структурированные данные, такие как варианты множественного выбора, числовые оценки или откалиброванные вероятности.

Мы поймали молнию в бутылку, но она все еще не пригодна для использования.

Скорость обработки и снижение затрат

Благодаря уникальной архитектуре параллельной обработки данных система сканирует информацию всего один раз и вычисляет ответы на множество вопросов одновременно. Скорость отклика варьируется от 70 миллисекунд до половины секунды, что в 40–200 раз быстрее классических языковых моделей. Поскольку Jev не генерирует новый текст, проблема галлюцинаций полностью исключена.

Ценовая политика стартапа также отличается новизной: оплата взимается только за входящий текст, измеряемый миллиардами токенов. Стоимость составляет 0,042 доллара за миллион входных токенов при абсолютно бесплатном выводе и контекстном окне до 64 000 токенов, что кратно дешевле существующих аналогов.