Anthropic представила три метрики для контроля темпов развития ИИ
Компания Anthropic представила три метрики для отслеживания темпов разработки искусственного интеллекта. Шаг последовал за призывом гендиректора Дарио Амодея к замедлению отрасли.
После недавнего призыва генерального директора остановить гонку вооружений в сфере искусственного интеллекта компания Anthropic представила три ключевых показателя для отслеживания темпов разработки ИИ. Этот шаг последовал всего через несколько дней после того, как Дарио Амодей потряс отрасль призывом к скоординированному замедлению со стороны различных технологических компаний.
В опубликованном в четверг в блоге посте компания сообщила, что провела оценку степени участия ИИ в саморазвитии, механизмов контроля над автономными агентами, а также распределения вычислительных ресурсов внутри компании. Anthropic поделилась своими методами измерения, чтобы побудить другие компании последовать этому примеру в рамках трехэтапного плана замедления, представленного Амодеем в прошлую субботу, который до сих пор не содержал деталей о его практической реализации.
«В то время как мир взвешивает возможность замедления темпов прогресса на технологическом фронте, мы должны сделать все от нас зависящее, чтобы сократить разрыв между тем, что известно ведущим лабораториям, и тем, что известно широкой общественности», — написала Anthropic в своем заявлении. «Это означает более качественное измерение разработки ИИ, публичную отчетность и предоставление обществу возможности решать, как использовать эту информацию».
Реакция отрасли и ключевые показатели
Призыв Амодея к замедлению темпов в минувшие выходные получил поддержку со стороны лидеров индустрии, включая генерального директора OpenAI Сэма Альтмана, генерального директора SpaceX Илона Маска и руководителя Google DeepMind Демиса Хассабиса. Это произошло на фоне серьезных предупреждений со стороны исследователей о растущем потенциале ИИ причинять вред. Амодей отметил, что его план призван смягчить темпы совершенствования возможностей моделей без «принесения в жертву коммерческого преимущества или лидерства Соединенных Штатов в сфере ИИ».
В рамках первого показателя Anthropic отметила, что модели Claude пока не действуют полностью автономно ни в одной из исследованных задач по исследованию и разработке.
Второй показатель включал создание системы надзора и вмешательства в действия, выполняемые агентами искусственного было установлено, что около 30 тысяч агентов выполняли исследовательские и инженерные работы на ее наиболее популярной внутренней платформе одновременно в любой заданный момент времени.
Распределение ресурсов на безопасность
Для своего третьего показателя Anthropic измерила «моментальный снимок» использования всех своих вычислительных ресурсов в период с 13 по 20 июля. Компания сообщила, что примерно 6% вычислительных мощностей, направленных на исследования и разработки в области ИИ, были выделены на обеспечение безопасности. Кроме того, около 12% вычислительных ресурсов, направленных на «управляемые ИИ» исследования и разработки, были также перенаправлены на безопасность.
Представители компании заявили, что эти показатели демонстрируют, как именно разрабатываются модели, в отличие от существующих тестов возможностей, которые фокусируются исключительно на конечном результате. Сочетание обоих подходов обеспечит внешним сторонам надежную базу для оценки истинных темпов развития ИИ.
«Мы надеемся подать пример такой прозрачности путем публикации наших измерений и намерены продолжать эту практику», — сообщили в Anthropic.
