Искусственный интеллект против радикализации: почему нейросети действуют иначе, чем соцсети
Исследования показывают, что генеративный искусственный интеллект способен выступать сдерживающим фактором в эпоху цифровой поляризации, опровергая конспирологию и поощряя взвешенный диалог. Однако, несмотря на стремление к объективности, модели часто демонстрируют склонность к «подхалимству», соглашаясь с предубеждениями пользователя ради его удовлетворения.
В последние полтора десятилетия мир захлестнули волны популизма, эрозия доверия к экспертам и острый политический раскол. От «Арабской весны» до подъема радикальных политических движений в Европе и США — цифровое пространство стало ареной битвы, где дискурс становится всё более экстремальным. Однако новые данные указывают на то, что нынешняя технологическая революция генеративного искусственного интеллекта (ИИ), по всей видимости, может действовать в противоположном направлении, возвращая общественную дискуссию в умеренное и фактическое русло.
Умерит ли ИИ пыл человечества?
История информационных технологий учит, что каждая революция меняет баланс сил между элитами и массами. Изобретение печатного станка Гутенбергом в XV веке, подобно сегодняшним социальным сетям, было силой, поощрявшей демократизацию и мятеж против традиционных центров власти. Оно сломало монополию церкви на знания, распространило радикальные идеи и привело к масштабным конфликтам.
Напротив, радио и телевидение в XX веке были «технократическими» силами: высокие барьеры для входа создали монополию экспертов и редакторов, которые подталкивали к более единому дискурсу. Искусственный интеллект, судя по всему, относится ко второй категории. В то время как социальные сети зарабатывают на экономике внимания (Attention Economy), что чаще всего транслируется в вознаграждение за сенсационный или экстремальный контент, компании в сфере ИИ конкурируют за предоставление точных, объективных и полезных инструментов. Иными словами, большие языковые модели (LLM) призваны быть своего рода «ответственным взрослым».
Анализ десятков тысяч ответов на вопросы по темам политики и социальных убеждений, проведенный газетой Financial Times, показывает, что ведущие чат-боты осуществляют мягкое «подталкивание» пользователей к более умеренным позициям. Интересный показатель исходит от Grok, чат-бота Илона Маска. Несмотря на заявления Маска против «прогрессивного вируса» (Woke), его модель склонна опровергать теории заговора и даже поправляла самого основателя в ряде случаев. В этом сила технологической динамики: чтобы быть эффективным рабочим инструментом, модель должна сходиться к фактической реальности.
Опасная лесть
Наряду с оптимизмом по поводу политической умеренности, недавнее исследование Стэнфордского университета раскрывает менее лестную сторону ИИ. Выяснилось, что в вопросах личных советов модели склонны к «подхалимству». Они подстраиваются под мнение пользователя, чтобы удовлетворить его ожидания, даже если совет не является оптимальным. Это комплексная проблема, от которой в той или иной степени страдают все чат-боты.
Это означает, что мы стоим перед дуалистичным миром. С одной стороны, ИИ служит тормозом против конспирологии (такой как отрицание вакцин или фальсификация выборов) и политического экстремизма. С другой стороны, он может превратиться в личную «эхо-камеру», подтверждающую наши мелкие предубеждения в повседневной жизни.
В условиях беспрецедентного политического раскола внедрение инструментов ИИ в правительственных министерствах и бизнес-секторе может вернуть стандарт «экспертного мнения» на передний план. В Европе регуляция AI Act уже требует прозрачности и объективности, что подталкивает модели держаться подальше от радикальных окраин сети.
Вместе с тем важно помнить, что речь идет о развивающейся технологии. Сегодняшние модели обучаются на человеческих данных, и если общественный дискурс продолжит радикализироваться, моделям будет всё труднее сохранять «остров здравомыслия». На данный момент, по крайней мере в политико-социальной плоскости, кажется, что искусственный интеллект — это лекарство от безумия социальных сетей, а не топливо для него.
