Известный философ Томас Нагель резко раскритиковал ИИ-модели Anthropic

Известный философ Томас Нагель раскритиковал разработчиков искусственного интеллекта за попытки приписать языковым моделям подобие сознания, назвав подход Anthropic ошибочным.

Известный философ Томас Нагель резко раскритиковал ИИ-модели Anthropic
Фото: Unsplash / @almoya (Almoya)

В американском технологическом секторе разгораются острые дискуссии вокруг природы искусственного интеллекта. Известный американский философ, профессор эмеритус Нью-Йоркского университета Томас Нагель, удостоенный премии Берггруена по философии и культуре в размере 1 миллиона долларов, выступил с резкой критикой разработчиков нейросетей. По мнению философа, утверждающие, что современные большие языковые модели близки к обретению подлинного сознания, совершают фундаментальную ошибку.

Более полувека назад Нагель опубликовал знаковый труд о субъективном опыте живых существ. Сегодня, в возрасте 89 лет, он заявляет, что попытки приписать искусственному интеллекту ментальную жизнь лишены всяких оснований. Философ подверг жесткой критике подходы технологических гигантов, включая компанию Anthropic, которая развивает линейку моделей Claude.

Философская ошибка функционализма

Дискуссия затрагивает базовые принципы философии сознания. По словам Нагеля, сторонники обретения ИИ разума опираются на функционализм — концепцию, согласно которой материал системы не имеет значения, если логические операции имитируют работу мозга. Философ категорически отвергает этот подход, подчеркивая, что сложные серверные фермы не имеют ничего общего с физической природой нервной системы.

«Намерение некоторых философов воспринимать всерьез вопрос о том, обладают ли эти системы сознанием или скоро им овладеют, выглядит просто смехотворно. Все, что они производят, — это язык, а язык сам по себе не является естественным выражением сознания.»

Критика в адрес Anthropic

Особое возмущение философа вызвала стратегия разработчиков Claude, поощряющих модели «думать самостоятельно» и вводящих специальные должности исследователей, отвечающих за «благополучие модели». По его оценке, подобные инициативы граничат с абсурдом, поскольку у машин полностью отсутствует внутренняя жизнь.

Философ разделил опасения генерального директора подразделения ИИ в Microsoft Мустафы Сулеймана, который ранее предупреждал об опасности создания ложной иллюзии сознания у пользователей. Нагель подчеркнул, что наделение алгоритмов эмоциональными или личностными характеристиками является исключительно маркетинговым трюком, основанным на обучении по человеческим текстам.

Личный эксперимент и угроза для разума

Несмотря на скептицизм, Нагель однажды лично протестировал чат-бот Claude, задав ему провокационные вопросы о собственном существовании. Нейросеть мгновенно догадалась, с кем именно ведет диалог, и ответила вежливой репликой на французском языке. Однако, по мнению ученого, подобные забавные эпизоды лишь подчеркивают серьезную проблему: люди склонны стирать грань между ролевой игрой алгоритма и реальной личностью.

В заключение Нагель отметил, что главная угроза со стороны искусственного интеллекта кроется вовсе не в восстании машин, а в деградации человеческого мышления. Стремление переложить всю интеллектуальную работу на чат-боты способно подорвать мотивацию людей самостоятельно решать сложные задачи, что в конечном итоге лишит человечество фундаментальных когнитивных навыков.

Читайте также