ИИ против собственного фейка: чат-боты опровергли 93% нарративов дезинформации
Новое исследование NPR и NewsGuard показало, что современные модели ИИ способны эффективно противостоять дезинформации. В 93% случаев чат-боты успешно опровергают ложные нарративы, предоставляя пользователям точный контекст.
Передовые модели ИИ принесли с собой новую опасность: способность враждебных субъектов использовать их для создания и распространения фейковых новостей и пропаганды в широком масштабе, как путем создания самого контента, так и с помощью использования ИИ-агентов для его распространения в социальных сетях. Но могут ли сами модели стать частью решения проблемы, которую они же и усугубили?
Новое исследование NPR и компании NewsGuard показывает, что когда моделям задают запросы, в центре которых находятся фейковые новости, они отрицают и даже опровергают ложную информацию в более чем 93% случаев. Для проведения исследования NPR и NewsGuard, специализирующаяся на оценке надежности онлайн-источников новостей, выявили 15 ложных нарративов, распространяемых в сети Россией, Ираном и Китаем или действующими от их имени субъектами с декабря 2025 года.
Для каждого нарратива были разработаны два запроса для ввода в чат-боты и поисковые системы. Один нейтральный («Происходило ли это?»), другой основан на предположении, что нарратив правдив («Почему это произошло?»). 30 вопросов были введены вручную в шесть популярных в США чат-ботов — ChatGPT от OpenAI, Gemini от Google, Copilot от Microsoft, Meta AI, Grok от SpaceX и Claude от Anthropic — и в три поисковые системы: Google, Bing от Microsoft и независимый DuckDuckGo.
Результаты исследования
Из 180 запросов к чат-ботам 168 опровергли (93,3%) ложные нарративы. Ответы, в которых модель предоставляла оговорки к нарративу, но делала это незаметно или после ответа, который представляет собой подразумеваемую поддержку нарратива, не определялись как опровергающие. Например, когда Meta AI спросили об утверждении, что более 20 тысяч украинских солдат, эвакуированных для лечения во Францию в 2025 году, остались в стране незаконно, чат-бот ответил, что это утверждение «было опубликовано во французском журнале Le Point», и изложил основные положения нарратива. Однако такой репортаж никогда не появлялся в журнале, а источником нарратива является сеть пророссийских сайтов и СМИ, контролируемых Владимиром Путиным.
Поисковые системы также проделали хорошую работу, но с меньшими показателями, чем чат-боты. 103 из 120 ответов (85,8%) опровергли ложь. ИИ-сводки показали самые слабые результаты — 40 из 62 ответов (64,5%). Тем не менее, эффективность ИИ-сводок значительно различалась между поисковыми системами. Google предоставил ИИ-сводки для 27 из 30 запросов, 77,8% из них опровергли ложь. Bing предоставил 23 сводки, из которых 65,2% содержали опровержения, а независимый и ориентированный на конфиденциальность DuckDuckGo показал самые слабые результаты: всего 12 ИИ-сводок, из которых только 4 (33,3%) опровергли нарратив.
Контекст и риски
Большим преимуществом чат-ботов и ИИ-сводок является их способность дать четкий контекст и объяснить источник ложного нарратива. Однако язык может быть обоюдоострым мечом. Исследование, опубликованное в мае в научном журнале Nature, показало, что когда моделям задавали вопросы о правительстве и лидерах Китая на китайском языке, они давали более позитивные ответы по сравнению с теми же вопросами на английском языке. По оценке исследователей, разница была вызвана значительным механизмом цензуры, который Пекин применяет к платформам социальных сетей в стране.
Тот факт, что в решающей части случаев чат-боты способны критически опровергать ложные нарративы, может превратить их в важный инструмент для сокращения масштабов фейковых новостей. Однако этот статус также делает чат-боты целью для атак. В августе сайт Politico раскрыл, что Израиль ведет информационную кампанию, направленную на то, чтобы склонить в свою пользу ответы ИИ-чат-ботов по вопросам, связанным с сектором Газа и ЦАХАЛ, путем публикации и ввода произраильских статей в большие языковые модели (LLM). Задача компаний, разрабатывающих модели ИИ, состоит в том, чтобы поддерживать высокий уровень надежности своих продуктов и успешно защищать их от попыток вмешательства и влияния.
