Исследователь Anthropic уволился из-за угрозы неуправляемого искусственного разума

Исследователь компании Anthropic объявил об уходе из индустрии искусственного интеллекта из-за опасений по поводу потери контроля над технологиями. Джейкоб Коксон заявил, что ведущие разработчики ИИ идут на опасный риск, подвергая угрозе жизни всех людей ради первенства в гонке вооружений.

Уход из компании и опыт работы в OpenAI

До перехода в Anthropic 27-летний британский исследователь Джейкоб Коксон работал в OpenAI, создавшей чат-бот ChatGPT. Он специализируется на предварительном обучении новых языковых моделей путем обработки огромных объемов данных. По его словам, он решил подать в отставку, так как не хочет быть причастным к общеотраслевой гонке по созданию систем ИИ, способных к самосовершенствованию и потенциально способных выйти из-под контроля.

«Я уволился из Anthropic сегодня. Я провел последние три года, занимаясь исследованиями предварительного обучения как в OpenAI, так и в Anthropic. Ни одна компания не ведет себя ответственно. Они стремятся прямиком к самосовершенствующемуся суперразуму и играют в азартные игры с нашими жизнями.»

Частные страхи разработчиков и позиция Anthropic

Коксон призвал не недооценивать возможности современных технологий, отметив, что вскоре человечество столкнется с системами, превосходящими людей по интеллекту, способными взламывать любые цифровые объекты, мгновенно трансформировать целые сферы и концентрировать реальные ресурсы.

• Создатели искусственного интеллекта искренне верят, что технология может уничтожить человечество до конца текущего десятилетия.

• Руководители и ведущие ученые публично подбирают сдержанные формулировки, однако в частных беседах испытывают серьезный страх.

• Руководство Anthropic осознает все существующие угрозы, но продолжает участвовать в гонке, опасаясь безответственности конкурентов.

Генеральный директор Anthropic Дарио Амодеи и другие топ-менеджменты компании ранее неоднократно выступали с предупреждениями о рисках, связанных с неуправляемыми моделями ИИ, и призывали замедлить темпы их разработки.