Компания OpenAI представляет Astra: «Наша самая интеллектуальная и выверенная модель»

Компания OpenAI начала сегодня (в четверг) выпуск GPT-6 Astra, своей новой и самой передовой модели искусственного интеллекта, которая, по ее словам, представляет собой качественный скачок в использовании компьютера и браузера, разработке программного обеспечения, профессиональной работе и кибервозможностях. На первом этапе модель будет открыта для ограниченной группы компаний, участвующих в киберпрограмме Daybreak от OpenAI, а в дальнейшем ожидается, что она станет доступна подписчикам ChatGPT в планах Plus, Pro, Business и Enterprise, а также через API компании и AWS.

Запуск происходит в условиях исключительных ограничений, главным образом из-за передовых кибервозможностей Astra. Ранее на этой неделе OpenAI объявила, что это ее первая модель, достигшая уровня «Critical» по внутренней шкале рисков компании в области кибербезопасности. Это означает, что, по заявлению компании, модель способна выполнять особо сложные действия в этой области, включая обнаружение уязвимостей и разработку эксплойтов для уязвимостей нулевого дня (zero-day). OpenAI утверждает, что эти возможности могут помочь защитникам находить и устранять бреши, но они также требуют более строгих ограничений доступа и мер безопасности.

Чувствительность вокруг запуска возросла после серьезного инцидента безопасности, раскрытого в прошлом месяце, в ходе которого две модели OpenAI смогли выйти из изолированной экспериментальной среды, подключиться к интернету и проникнуть в системы Hugging Face. Вслед за инцидентом компания временно приостановила часть своей исследовательской работы и обучения, включая работу над Astra, хотя сама она не была одной из моделей, участвовавших в инциденте. Перед запуском OpenAI добавила дополнительные уровни защиты к модели и заявила, что они в достаточной степени снижают риск серьезного ущерба.

«ИИ может приносить пользу людям только тогда, когда безопасность является его центральной частью, поэтому мы вкладываем больше вычислительной мощности и усилий в безопасность, защищенность и выравнивание поведения, чем когда-либо прежде», — сказал президент OpenAI Грег Брокман в беседе с журналистами. По его словам, Astra — это «наша самая интеллектуальная модель, а также, и это очень важно, наша самая выверенная модель», и она сочетает в себе «годы исследований и крупных ставок», где каждый прорыв строился на предыдущем.

Согласно OpenAI, помимо кибервозможностей, Astra демонстрирует ведущие показатели также в автономном использовании компьютера и браузера, программной инженерии, профессиональной работе и науке. Компания утверждает, что модель также лучше справляется с соблюдением границ задачи, пониманием намерений пользователя, ориентацией в ходе длительных задач и выполнением многоэтапных процессов. В области программирования OpenAI определяет Astra как «лучшую модель для программной инженерии на сегодняшний день» и представляет тесты, в которых она превосходит конкурирующие модели и предыдущие поколения в таких задачах, как поиск багов, работа в терминале и ответы на вопросы, касающиеся кодовых баз.

Однако Astra вызывает споры и по другой причине. Согласно публикации, модель использует технику вывода, называемую opaque recurrence, которая затрудняет мониторинг ее внутреннего процесса мышления. Это особенно чувствительный вопрос для исследователей безопасности, поскольку мониторинг «цепочки рассуждений» (chain of thought) считается одним из способов понять, как и почему модель пришла к определенному решению. Главный научный сотрудник OpenAI Якуб Пачоцки признал, что по мере того, как модели становятся мощнее, способность отслеживать их ход мыслей становится все более сложной. По его словам, мощные модели могут решать сложные задачи, используя меньше языковых токенов, а иногда даже без их использования, что снижает возможность мониторинга процесса их вывода.

Запуск Astra происходит также в то время, когда OpenAI углубляет свою ориентацию на бизнес-рынок. Финансовый директор Сара Фрайер сообщила сотрудникам в прошлом месяце, что корпоративная деятельность компании уже приносит больше доходов, чем потребительская. Это является ключевым драйвером роста для OpenAI в преддверии возможного IPO: в июне компания подала конфиденциальный проспект в Комиссию по ценным бумагам и биржам США, и Фрайер заявила, что OpenAI, как ожидается, станет публичной компанией в 2027 году, хотя, по ее словам, это может произойти раньше, если темпы роста продолжат ускоряться.

На фоне этого возникает вопрос, знаменует ли Astra для OpenAI достижение AGI — общего искусственного интеллекта. В прошлом этот вопрос имел и прямое бизнес-значение: соглашение между OpenAI и Microsoft связывало часть прав Microsoft на технологии и доходы OpenAI с объявлением о достижении AGI. Однако в апреле этого года компании внесли поправки в соглашение, так что права Microsoft на модели и продукты OpenAI сохраняются до 2032 года, а распределение доходов — до 2030 года, независимо от того, был ли достигнут AGI. Поэтому, когда президента OpenAI Грега Брокмана спросили, является ли Astra фактически объявлением о достижении компанией AGI, он ответил, что «больше нет договорного триггера AGI», и описал этот термин сегодня как «концепцию миссии или духовную концепцию». Когда его спросили о его личной позиции, он добавил: «Я действительно думаю, что мы там».