Психология веры: почему мы доверяем лжи и как ИИ помогает бороться с заговорами

Профессор Рут Майо из Еврейского университета объясняет, почему люди склонны верить лжи, как доверие и недоверие формируют восприятие реальности и почему мы ищем информацию, подтверждающую наши позиции. В эпоху фейковых новостей и постправды она подчеркивает важность фактов, но также отмечает, что, несмотря на возможность подделать сегодня всё, искусственный интеллект как раз преуспевает в убеждении людей отказаться от теорий заговора — если доверять ему как источнику.

Профессор Рут Майо, в сегодняшней беседе мы поговорим о растущей в нынешний период трудности различения правды и лжи. Например, в контексте войны против Ирана: Дональд Трамп и его окружение объявили о победе, но режим не пал, а обогащенный уран все еще находится в земле. Как человеческий мозг справляется с такой запутанной ситуацией?

«Вы указываете на ощущение, которое чувствуем мы все. Мы не знаем фактов: ни вы, ни я не можем пойти и проверить состояние урана в Иране, и мы не знаем, что именно произойдет с властью. Чтобы выяснить факты, мы должны полагаться на источник информации — доверять ему. Но то, что очень пошатнулось в последние годы в обществе, — это доверие. Недоверие не является нашим состоянием по умолчанию. Наоборот. Мы как люди склонны верить. В психологии мы называем это "предубеждением истинности" (Truth Bias): когда кто-то что-то говорит, мы чаще всего склонны считать это правдой».

В детстве друзья называли меня «доверчивой простачкой». Вы подчеркиваете, что это не только моя особенность — люди по своей природе склонны верить.

«Да. Эта склонность проявляется во многих феноменах, один из самых поразительных — ложные воспоминания (False Memory). Например, если я спрошу вас, терялись ли вы в торговом центре в пятилетнем возрасте, и этого события не было — вы ответите "нет". Но через несколько минут вы уже не будете уверены в этом. Почему? Потому что в тот момент, когда я задала вам вопрос, вы создали репрезентацию этого события в голове, но при этом у вас нет противоположной репрезентации — не существует такого понятия, как "не потеряться". И когда репрезентация создана, вы склонны ей верить».

То есть, по сути, не так уж сложно заставить нас «купиться» на неверную информацию. Это зависит от вопроса, есть ли у нас противоположная репрезентация, а также от надежности, которую мы приписываем говорящему.

«Именно. Давайте предположим, что мы приписываем высокий уровень доверия представителям американской администрации, и когда они говорят "полная победа" — мы вообразим победу и поверим в это. Но если мы находимся в противоположном ментальном состоянии, недоверия к американцам, то когда те же люди скажут мне "полная победа", я воображу обратное — поражение, опасность, цену, которую я заплатила, и так далее. То, что мы находим в исследованиях, — это что всё зависит от того, находимся ли мы в состоянии доверия или недоверия. В состоянии доверия мы думаем в соответствии с предоставленной нам информацией, а в состоянии недоверия мы немедленно ищем альтернативы».

Профессор Рут Майо

• Личное: замужем, четверо детей.

• Профессиональное: кафедра психологии и Центр исследования рациональности в Еврейского университете.

• Увлечения: любит походы.

Если я слышу объяснение по какой-либо теме от экспертов, которых не знаю, — что они могут сказать такого, что вызовет у меня доверие?

«Доверие требует, чтобы я считала, что у эксперта есть знания и намерение принести мне пользу. Это два критических фактора. Интересный вывод из исследования в нашей лаборатории предполагает, что, возможно, если эксперт скажет: "Я не знаю" — это, вероятно, вызовет у вас доверие. Когда Израиль был одним из первых мест в мире, где давали третью прививку от коронавируса, и врачей спрашивали о побочных эффектах, они отвечали: "У нас нет данных, мы еще не знаем". Это шло вразрез с идеей "уверенно нести чушь". Лучше, чтобы эксперты умели признавать границы своих знаний».

«Мы будем искать в новостях информацию, соответствующую нашему восприятию»

Если вернуться к Ирану, как израильтяне, которые хотят выживания и успеха Израиля, — я полагаю, мы захотим верить, что наше положение хорошее, что мы побеждаем и что иранцы потеряли большую часть своих возможностей, вместо того чтобы столкнуться с пугающей реальностью.

«Это называется "мотивированное познание" (Motivated Cognition) — мы воспринимаем мир и интерпретируем его в соответствии с нашими желаниями. Поэтому, если у меня есть очень сильная мотивация думать о ситуации позитивно, что мы победили, — я буду интерпретировать ежедневные новости соответственно. Например, я буду кликать в новостях только на ту информацию, которая соответствует моему мировоззрению. Если я случайно столкнусь с противоречивой информацией — склонность будет заключаться в том, чтобы искать, как интерпретировать ее иначе, как ее опровергнуть. Это еще одно известное предубеждение в социальной психологии — подтверждающее смещение. Чтобы справиться с ним, нужно остановиться, осознать свое предубеждение и попытаться проанализировать данные как они есть».

Можно ли проиллюстрировать подтверждающее смещение через психологические эксперименты?

«Знаменитый пример — эксперимент британского психолога Питера Уэйсона 60-х годов: людям дают серию чисел (2, 4, 6) и говорят, что есть правило, по которому построена серия, и их цель — выяснить его. Почти все думают, что правило — "плюс два". Им предлагают написать шесть серий для проверки, и они получают отметку V на каждой серии, которая соответствует правилу. Что делают люди? Пишут серии, которые соответствуют тому, что пришло им в голову — например, 10, 12, 14. Они получают на всё галочки и убеждаются, что были правы. Но настоящее правило — любая возрастающая серия. Если бы они написали 1, 2, 3 — они бы тоже получили V, но люди этого не делают. Они пишут только серии, подтверждающие их гипотезу — это и есть подтверждающее смещение».

Вы добавили еще один уровень к исследованию в социальной психологии — и показали, как люди выполняют эту задачу, когда они находятся в состоянии доверия, по сравнению с недоверием.

«Да, несколько лет назад мы показали, что когда люди выполняют задачу из ментального состояния недоверия — например, люди, которые склонны быть хронически более скептичными, — они склонны думать об альтернативных сериях вместо того, чтобы думать только о тех, которые соответствуют их первоначальной гипотезе. То есть они более готовы проверять свою теорию путем опровержения, а не подтверждения. Это тактика, которая может, например, помочь сотрудникам разведки, которые должны быть способны проверять свои гипотезы не только способом, который докажет их правоту».

«Нет такого понятия — "это моя правда". Правда — это факты»

Вас беспокоят такие понятия, как «моя правда» и «постправда»?

«Нет такого понятия "моя правда". Правдой должны быть факты. Понятие "постправда" было выбрано словом года Оксфордом еще в 2016 году, и его смысл в том, что люди говорят себе: "Уже невозможно знать, что верно, а что нет, каждый говорит что-то свое, и поэтому я сдаюсь — я следую своему внутреннему чутью". И тогда, если я слышу, что с сыном соседки что-то случилось после прививки — это влияет на меня больше, чем статистика и эпидемиолог, всё исследование которого посвящено именно этому.

Иногда "моя правда" представляет собой разрыв между разумом и чувством. Кто-то, кто пережил травматический опыт в детстве, например — потерял члена семьи в авиакатастрофе, — откажется летать, когда вырастет, независимо от того, что покажет статистика. В этом смысл "моей правды", и с ней действительно иногда трудно спорить.

Я не прихожу и не отменяю субъективные ощущения людей. Это совершенно легитимно. Есть много контекстов, в которых важно следовать внутреннему чутью — например, при выборе партнера или поиске няни для детей. Но важно уметь различать контексты такого типа и те, в которых есть вещи, которые произошли — есть фотографии, свидетельства, данные. Нельзя утверждать, что событие не произошло, под аргументом: "Это моя правда". Важно, чтобы мы знали, что события произошли, и чтобы мы выясняли, как они произошли, чтобы мы могли делать выводы на будущее».

Почему так важно признавать наличие объективной реальности и данных?

«Можно вспомнить 7 октября и многие другие ужасные примеры, которые подчеркивают важность выяснения данных — даже тех, на которые менее удобно смотреть. Когда мы этого не делаем, мы в опасности. Другой пример — штурм Капитолия 6 января 2021 года со стороны сторонников Дональда Трампа, которые не признали результаты выборов, на которых тогда победил Джо Байден. Часто мы просто не хотим верить в то, что нам не подходит».

Кстати о штурме Капитолия и альтернативных фактах — в свое время Такер Карлсон, когда еще был ведущим на Fox News, сформулировал теорию заговора, согласно которой штурм был организован при поощрении ФБР, что, конечно, было неправдой. Эти теории привлекательны, потому что они дают объяснения и внутренний порядок в хаотичном мире?

«Есть ситуации неопределенности, в которых мы ищем объяснение — нам очень трудно оставаться без него. В трудных ситуациях, таких как новая болезнь или внезапная война, трудно поверить, что это "просто случилось" без кого-то ответственного, кого-то, кого можно обвинить. Допустим, в контексте коронавируса — одна из теорий заговора говорила о заговоре, состряпанном "глобальной элитой", чтобы привести к сокращению населения. Часто реальность ужасна в своей простоте — например, можно было довольно легко убить премьер-министра в Израиле. Легче думать, что кто-то это позволил. То, что вы описали, связано с подрывом доверия: как только я нахожусь в ментальном состоянии недоверия, на любую вещь, которую мне представят как простой факт, я немедленно подумаю об альтернативе. Какова альтернатива? Часто это именно теория заговора.

Есть один особенно крайний пример этого. В 2012 году произошла бойня в школе Сэнди-Хук в США, в ходе которой молодой человек по имени Адам Лэнза застрелил 20 детей в первом классе и 7 сотрудников. Случай разжег эмоциональную дискуссию вокруг необходимости ужесточения регулирования владения оружием в США. В ответ группа, выступающая против регулирования, распространила теорию заговора, согласно которой событие было выдумано людьми, желающими принять законы против ношения оружия. Это дошло до того, что те же люди звонили скорбящим родителям и говорили им: "Почему вы говорите, что у вас был ребенок? У вас никогда не было такого ребенка".

Была одна пара родителей, которая нашла в себе силы бороться за правду в суде, включая требование предъявить судьям свидетельство о рождении, чтобы доказать, что у них был ребенок. Вот до чего мы дошли. Поворот наступил только в 2022 году, когда семьи убитых выиграли иски о клевете, и распространитель теорий заговора, радиоведущий Алекс Джонс, был обязан выплатить им компенсацию в размере более миллиарда долларов. Это борьба, которая считается вехой в войне против теорий заговора».

---

«ИИ снизил веру в заговоры примерно на 20%»

В эпоху ИИ, когда можно подделать почти всё, проблема фейковых новостей только усугубляется, не так ли? Во время войны израильские журналисты распространяли видео, на которых якобы была видна атака дронов на позиции в Сидже в Иране, которые позже оказались видео ИИ. Этого события никогда не было.

«С одной стороны, я очень обеспокоена. Мы привыкли верить глазам, и вдруг это невозможно. Критический момент — это нормы. В обществах, где есть норма, согласно которой за распространение ложной информации есть цена — журналиста увольняют, политик уходит в отставку, — можно продолжать доверять источникам информации. За ложь должна быть цена. Но ИИ также может помочь в искоренении фейковых новостей».

Объясните.

«Оказывается, что как раз чаты ИИ преуспевают в убеждении людей отказаться от всевозможных теорий заговора, которых они придерживались, включая те, что мы упоминали ранее, которые вращались вокруг коронавируса и выборов 2020 года, и доходили даже до убийства Кеннеди. Это понимание пришло из исследования, опубликованного около двух лет назад в престижном журнале Science, и мы также провели аналогичное исследование в нашей лаборатории. Исследователи дали группе американцев описать чату теорию заговора, в которую они верят, включая имеющиеся якобы доказательства, и чат предложил альтернативные объяснения теории.

Результаты были удивительными: беседа с ИИ снизила веру в заговор в среднем примерно на 20%. В разговоре между людьми есть трудность, потому что когда кто-то из другой группы объясняет мне, почему то, во что я верю, неверно, я думаю, что у него есть повестка, и не слушаю. Но в момент взаимодействия с искусственным интеллектом люди воспринимают его как объективный и, главное, как предоставляющий факты. Это снова показывает, что если мы верим источнику — он может убедить нас даже отказаться от теории заговора».

Мы беседуем на неделе, когда закончилась эра Виктора Орбана в Венгрии и спустя 20 лет был избран новый премьер-министр, Петер Мадьяр. Орбан — пример лидера-популиста, который не раз распространял фейковые новости. Почему существует тесная связь между популизмом и фейковыми новостями?

«Это инструмент лидеров-популистов, предназначенный для подрыва доверия, чтобы заставить нас не знать, что верно, а что нет. В ситуациях неопределенности мы ищем лидерство — кого-то, кто поведет нас и на кого мы сможем положиться. Когда политики насаждают фейк, его очень трудно опровергнуть. Они что-то говорят, и даже если через две минуты они исправляются, репрезентация уже создана и продолжает влиять. Как только говорят, что высадка на Луну была фальшивой — поди докажи, что это не было инсценировано.

Они подрывают вещи, в которых я была уверена, и это их способ обрести контроль и власть. Распространители фейков знают, что информация ложна, и всё же они распространяют ее. Философ Ханна Арендт писала еще в 50-х годах о тоталитарных режимах, что они приводят нас к состоянию, в котором публика может верить всему и в то же время ничему (The masses believe everything and nothing)».

Лидеры-популисты чаще всего опираются на большую группу сторонников, которая верит им во всем.

«И отсюда путь короток к созданию двух отчетливых групп внутри общества, когда каждая группа верит и потребляет информацию только от людей своей группы, феномен, который мы называем "эхо-камерами" (Echo Chambers). У такого типа социального раскола много негативных последствий для общества. Он существует и в Израиле. Один из результатов заключается в том, что мы закрываем уши перед всеми, кто не в "нашей группе", и это нездорово».