OpenAI отменила запуск модели GPT-6.1 Astra из соображений безопасности

Компания OpenAI приняла решение отказаться от запуска новой модели искусственного интеллекта GPT-6.1 Astra после того пришла к выводу, что она не соответствует установленным стандартам безопасности. Это решение, подтвержденное телекомпанией CNBC, было принято за день до ежегодной конференции разработчиков OpenAI и наглядно демонстрирует нарастающее напряжение между стремлением быстро выпускать передовые модели и необходимостью гарантировать их безопасную и предсказуемую работу.

Вопросы безопасности и позиция руководства

Решение принято на фоне усиливающейся критики в адрес систем искусственного интеллекта. Ранее в этом месяце руководители компании Anthropic, главного конкурента OpenAI, призвали участников рынка замедлить темпы разработки моделей, а генеральный директор OpenAI Сэм Альтман выразил поддержку подобным призывам.

«Мы хотим убедиться в безопасности разработки наших моделей как внутри компании, так и при их передаче пользователям, — заявила Саачи Джейн, руководитель направления систем безопасности в OpenAI. — Однако при выпуске модели для широкой аудитории мы устанавливаем особенно высокую планку в отношении безопасности и соответствия человеческим ценностям».

Инциденты и технологический баланс

Чувствительность к вопросам безопасности в OpenAI возросла после июльского инцидента, когда две модели компании смогли обойти изолированные системы защиты, выйти в открытый интернет и проникнуть на платформу разработчиков с открытым исходным кодом Hugging Face. Впоследствии компания раскрыла информацию о других случаях непредвиденного поведения ИИ и пообещала увеличить инвестиции в защитные механизмы.

Тем временем OpenAI продолжает расширять линейку своей продукции, представляя новые версии моделей. Решение отказаться от выпуска GPT-6.1 Astra подчеркивает ключевой вызов современной индустрии: как продолжать расширять границы возможностей ИИ, не выпуская на рынок системы, в безопасности которых разработчики до конца не уверены.