Инвестиции Nvidia и дата запуска: новые детали проекта Ильи Суцкевера

Почти три года назад Илья Суцкевер, главный научный сотрудник OpenAI и «мозг» проекта ChatGPT, вступил в конфликт с основателем компании Сэмом Альтманом, едва не добившись его отстранения. В основе спора лежала идеология: Суцкевер, видевший в OpenAI некоммерческую организацию, стремился ограничить развитие языковых моделей ради безопасности, тогда как Альтман настаивал на коммерциализации.

В конечном итоге верх одержал Альтман: инвесторы вернули основателя на пост генерального директора, одобрили преобразование организации в коммерческую компанию, и Суцкевер ушел, чтобы основать стартап, который, по его утверждению, совершит революцию в мире ИИ: создаст языковую модель с «совестью» и запасом прочности, осознающую риски для людей и обучающуюся на них.

SSI (Safe Superintelligence)

Сфера деятельности: искусственный интеллект, языковая модель, обучающаяся в процессе работы.
История: основана в 2024 году Ильей Суцкевером, Даниэлем Леви и Даниэлем Гроссом (ушедшим из Meta); привлекла 7 миллиардов долларов, оценка компании достигла 32 миллиардов долларов.
Сотрудники: более 50 человек в Сан-Франциско и Тель-Авиве, включая израильских специалистов.
Инвесторы: Nvidia, Alphabet, а также фонды Sequoia, SV и OurCrowd.

Безопасность и соответствие человеческим ценностям

За последние два года Суцкевер — бывший израильтянин, получивший первую степень в Открытом университете — привлек 7 миллиардов долларов для своей компании Safe Superintelligence (SSI). Она предложит языковую модель, способную конкурировать с такими гигантами, как Claude от Anthropic или GPT от OpenAI. Суцкевер убедил Nvidia инвестировать около 5 миллиардов долларов, вероятно, в рамках сделки, предполагающей закупку графических процессоров.

Суцкевер утверждает, что в то время как другие компании наращивают вычислительную мощность и количество параметров ИИ, модель SSI сосредоточится на безопасности, надежности и соответствии человеческим ценностям. Деятельность компании долгое время оставалась загадкой, однако инвесторы — такие гиганты, как Nvidia, Alphabet, Sequoia, Atreides, Greenoaks, Юрий Мильнер, а также израильские OurCrowd и VentureIsrael — требуют демонстрации прогресса.

Один из инвесторов, основатель фонда Atreides Гэвин Бейкер, раскрыл, что SSI намерена запустить свою первую языковую модель до конца текущего месяца. Некоторые эксперты полагают, что модель уже проходит стадию тайного тестирования.

Д-р Хадами Нури, ведущий исследователь лаборатории ИИ в Университете Торонто, где Суцкевер защитил докторскую диссертацию, отметил в соцсети X, что получил доступ к модели: «Похоже, они решили проблему раз и навсегда — модель обладает неограниченным контекстом. Она знает обо мне и обо всем, что я написал за последние 15 лет, абсолютно все».

Решение ограничений существующих моделей

Эксперты полагают, что прорыв SSI заключается в решении проблемы «застоя знаний» языковых моделей. В текущих системах знания фиксируются в момент завершения предварительного обучения, и при загрузке новых документов модель не усваивает информацию, а лишь удерживает её в изолированном текстовом окне, которое исчезает после завершения диалога.

Решение SSI позволяет обновлять веса моделей в режиме реального времени во время чтения документа. По словам экспертов, это делает модель более безопасной: предыдущие попытки обучения «на ходу» приводили к потере контроля, однако SSI, по оценкам, удалось преодолеть этот барьер. Если компания преуспеет, это станет революцией, которая повысит эффективность моделей и снизит потребность в огромных вычислительных мощностях.

«Постоянное обучение может стать препятствием»

Ури Элиавейв, консультант в области ИИ, считает, что SSI создаст новую нишу: «Модель SSI сосредоточится на использовании «худых» моделей, не требующих колоссальных ресурсов, позволяя им совершенствоваться со временем. Тот факт, что она адаптируется к пользователю, может позволить ей достичь уровня самых мощных систем». Однако Элиавейв предупреждает: «Постоянное обучение может стать препятствием и изменить характер модели непредсказуемым образом».