OpenAI решила сотни математических задач, но ученые не понимают их смысл
Публикация сотен математических доказательств, созданных искусственным интеллектом OpenAI, вызвала тревогу среди ведущих математиков мира, поставив под вопрос стандарты академического доверия и ценность научных открытий.
Корпорация OpenAI опубликовала в открытом доступе сотни математических рукописей, содержащих доказательства сложных нерешенных проблем. Представитель компании сообщил изданию Scientific American, что даже штатные математики разработчика пока не до конца понимают многие из полученных результатов. Этот беспрецедентный шаг наглядно демонстрирует фундаментальные вызовы, с которыми сегодня сталкивается академическое сообщество.
Опубликованные на прошлой неделе 722 рукописи охватывают более 300 математических задач, над некоторыми из которых исследователи работали на протяжении десятилетий. Все материалы были созданы внутренним, закрытым для широкой публики модельным комплексом, причем на каждый результат уходило в среднем около трех часов вычислений. Ведущий американский математик предположил, что один из полученных выводов вполне мог бы принести автору престижную медаль Филдса. Месяцем ранее компания объявила, что та же система успешно справилась с решением задачи Навье — Стокса, описывающей движение жидкостей и газов и входящей в число семи «проблем тысячелетия» с призовым фондом в один миллион долларов.
Разрыв между решением и пониманием
Спустя три дня обладатели медали Филдса, включая Теренса Тао и израильского математика Илона Линденстраусса, опубликовали совместное заявление. По их словам, существует глубокий разрыв между стратегическими целями ИИ-компаний и миссией математического сообщества. Решение задачи, отмечают авторы, само по себе не является самоцелью — это лишь симптом зарождения нового глубокого понимания. Подобные инсайты рождаются медленно в ходе академических дискуссий, лекций, конференций и кропотливой работы с текстом, постепенно становясь частью учебников и живой ткани науки.
Теренс Тао, один из самых авторитетных математиков мира, отметил в день публикации результатов по задаче Навье — Стокса, что массовое применение искусственного интеллекта для поиска ответов дает сиюминутный результат ценой утраты способности дисциплины производить будущие прорывы. По его мнению, полный запрет подобных инструментов невозможен, однако научное сообщество вправе ожидать от исследователей не просто «сырого» ответа, но аналитического осмысления, порождающего новые знания.
Асимметричные затраты и информационная перегрузка
События последних недель обнажили проблему так называемых «асимметричных затрат». Фильтрация и экспертная оценка огромных объемов сгенерированных данных представляют серьезную угрозу для академической инфраструктуры. Сегодня производство контента стало предельно дешевым, в то время как его верификация требует колоссальных ресурсов. Традиционные механизмы рецензирования и университетские комитеты формировались в эпоху, когда новые знания появлялись медленно и стоили дорого.
Кроме того, под угрозой оказывается принцип открытого обмена знаниями. Математика исторически опиралась на ресурс коллективного пользования, существующий благодаря негласному договору о взаимности: ученые делятся идеями в расчете на то, что коллеги продолжат исследования и внесут свой вклад. Системы искусственного интеллекта черпают данные из этой общей базы, взамен поставляя непрозрачные результаты, которые пока никто не в состоянии полностью верифицировать.
Кризис академического доверия
Важнейшим аспектом проблемы становится кризис доверия. Базовая норма математики заключается в том, что автор полностью понимает собственное доказательство, проверяет его и несет за него ответственность. В случае со многими новыми результатами ИИ это условие не выполнено. Компьютерная проверка может подтвердить логическую корректность вычислений, но она не способна заменить человеческое понимание. Более того, математики из Кембриджа и Лондона уже обнаружили несоответствия между некоторыми выкладками OpenAI и их компьютерными верификациями.
Ситуация вынуждает научный мир заново переосмыслить критерии надежности знаний. Если раньше исследователей оценивали главным образом с точки зрения научной честности, то теперь необходимо удостовериться, что за каждым математическим утверждением стоит эксперт, способный поручиться за его суть. Акадмические круги и профильные ведомства должны выработать новые регламенты, включая обязательное декларирование использования ИИ в научных работах.
