Генеральный директор Anthropic: «Сопротивление ИИ — это, по сути, кризис доверия»

Генеральный директор Anthropic Дарио Амодей недавно отверг утверждение о том, что он представляет слишком пессимистичную картину искусственного интеллекта и того, как он может сформировать будущее. Об этом сообщает технологический блог TechCrunch.

Слова Амодея прозвучали в ответ инвестору Гэвину Бейкеру, который утверждал — как в подкасте All-In, так и в сети X, — что предупреждения Амодея об опасностях ИИ помогли разжечь в США негативную реакцию на технологию, особенно в том, что касается центров обработки данных. Бейкер заявил, что Амодей «проиграл в споре» по поводу регулирования ИИ, хотя Anthropic поддерживает определенные правила, включая законопроект в Калифорнии, налагающий требования прозрачности на крупные компании в сфере ИИ. Учитывая, что «он собирается стать генеральным директором одной из самых важных компаний в мире», написал Бейкер, «я с уважением думаю, что ему следует приложить усилия, чтобы стать более позитивным сторонником своей отрасли».

Бейкер далеко не единственный, кто утверждает, что скептицизм по отношению к ИИ и даже меры по ужесточению со стороны правительств являются естественной реакцией на суровые предупреждения, звучащие от некоторых руководителей компаний в сфере ИИ. Однако в своем собственном посте Амодей не согласился с утверждением, что «мои сообщения были непропорционально негативными». По его словам, его текст был «в равной степени сбалансирован между рисками и преимуществами», и он написал свою статью «Machines of Loving Grace», потому что «я чувствовал, что индустрия ИИ не представляет достаточно вдохновляющую картину того, как технология может драматически изменить мир к лучшему».

Тем не менее, Амодей признал, что «у общественности негативное мнение об ИИ», и согласился, что «это большая проблема». Он не согласился с утверждением, что эта негативность была вызвана «в основном» им или «любым другим лидером в сфере ИИ, который предупреждает о рисках ИИ».

«Я думаю, что это, по сути, кризис доверия», — сказал Амодей. «Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы замышляем какой-то новый способ их обмануть». И действительно, «доверие» — это термин, который часто появляется в заголовках, касающихся генерального директора OpenAI Сэма Альтмана, и кажется, что это проблема, которая касается и других генеральных директоров в сфере ИИ, таких как Амодей. Однако, по словам Амодея, это кризис, который строился десятилетиями, а сопротивление ИИ — «лишь его последняя версия».

«Я думаю, что самая точная критика компаний в сфере ИИ, включая Anthropic, с большим отрывом заключается в том, что мы еще не выполнили наши великие обещания принести пользу миру», — сказал Амодей. «Это полностью наша вина, и я думаю, что это та критика, которую следует высказывать, вместо всех этих разговоров о сообщениях и маркетинге». Другими словами, он сказал, что обещание того, что ИИ вылечит рак, — это «больше клише, чем что-то вдохновляющее», и то, что действительно изменит мнение людей об ИИ, будет «действительно вылечить рак».

Что касается регулирования, Амодей утверждал, что Бейкер представляет «ложный выбор» между широким распространением ИИ без регулирования и концентрацией технологии в руках нескольких компаний посредством регулирования.

«Я знаю, что в Кремниевой долине существует представление, что регулирование приводит к тому, что крупные компании влияют на регуляторов, и в конечном итоге к концентрации власти, но я всегда думал, что это слишком упрощенная картина мира», — сказал Амодей. «Многие люди за пределами этого пузыря думают о регулировании как о чем-то, что ограничивает власть компаний и приносит пользу обычным людям».

Амодей добавил, что он «не обязательно согласен и с этой точкой зрения», но, по его словам, «именно поэтому Anthropic всегда формулировала свои политические предложения очень осторожно».

«Мы очень стараемся предлагать предложения, которые вредят самым передовым компаниям в сфере ИИ (замедляя их), и в то же время дают преимущество более мелким конкурентам», — сказал он. Почему вообще выдвигать такие предложения? Амодей сказал, что, по его мнению, «ИИ — это технология, которая структурно склонна концентрировать власть», и что «открытые модели ИИ действительно помогают в некоторой степени в этом вопросе, но они далеки от того, чтобы быть достаточным решением, потому что они просто переносят в некоторой степени концентрацию на тех, у кого есть наибольшая вычислительная мощность и чипы».

«Напротив, я думаю, что правильные «правила игры» могут одновременно (а) справиться с рисками кибербезопасности/биологии/соответствия ИИ, (б) институционально ограничить власть самых передовых компаний в сфере ИИ и (в) оставить место для открытых моделей, одновременно справляясь с конкретными рисками, которые они приносят с собой», — сказал он.