Фальшивые раввины захватывают сеть и распространяют антисемитизм с помощью ИИ

Они выглядят как раввины. Они говорят авторитетным голосом, иногда одеты в одежду, ассоциирующуюся с еврейским миром, и предлагают зрителям советы о деньгах, успехе, бизнесе и «житейской мудрости». Однако есть только одна проблема: этих раввинов не существует, они — продукты искусственного интеллекта, и они увековечивают древний антисемитизм на современных платформах. За фальшивыми персонажами скрывается тревожное явление, которое распространяется в TikTok и Instagram: использование вымышленных еврейских персонажей, и особенно «раввинов», созданных с помощью ИИ, для распространения самых древних антисемитских стереотипов. Технология новая, формат новый, алгоритмы новые — но ложь очень старая.

Проверка в TikTok выявляет десятки аккаунтов, представляющих персонажей «раввинов», которые были созданы с помощью искусственного интеллекта и публикуют посты на английском языке. В совокупности эти аккаунты набрали более миллиона подписчиков и десятки миллионов лайков. Это, конечно, только верхушка айсберга. Неизвестно, сколько еще миллионов человек подверглись воздействию фальшивых материалов и на сколько языков они были переведены.

Изучение материалов с фальшивых аккаунтов «раввинов ИИ» позволяет выявить закономерности, послания и язык, которые повторяются и намекают на один фактор или мотив, стоящий за ними. Трюк прост — и поэтому так опасен. Вместо того чтобы антисемитский проповедник сказал зрителю со стороны: «Евреи контролируют деньги», появляется якобы еврейский раввин и представляет то же утверждение как «внутренний секрет» или финансовый совет. Так создается ложное представление: вот, якобы, еврей, который сам признается в том, в чем его обвиняют антисемиты.

В то время как стереотип представляется евреем, происходит «отбеливание» антисемитских идей в основном дискурсе. Когда утверждение исходит якобы из уст «раввина», оно обходит естественный механизм скептицизма. Зрителю не нужно сталкиваться с утверждением, которое кто-то извне направляет против евреев; он получает его якобы как признание «одного из них», и именно в этом заключается опасность.

Содержание видеороликов фокусируется в основном на самых классических стереотипах: евреи как люди, одержимые деньгами, изощренные в способах обмана, умеющие «обходить систему», контролирующие центры власти и действующие как закрытая сеть, продвигающая свои интересы.

Речь идет об образах, которые не являются изобретением эпохи социальных сетей. Американский музей Холокоста отмечает, что стереотип о евреях как о «жадных» или как о тех, кто одержимо ассоциируется с деньгами, банковским делом и кредитованием, развивался в Европе на протяжении сотен лет. Именно потому, что евреям во многих местах запрещалось владеть землей и заниматься различными профессиями, некоторые из них занимались торговлей и кредитованием — факт, который впоследствии стал основой для лжи о «алчности» и еврейской экономической власти. Отсюда короткий путь к утверждению, что евреи контролируют деньги — а оттуда к выводу, что они контролируют мир в своих интересах и во вред общему благу.

Феномен фальшивых раввинов не ограничивается TikTok. В Instagram можно найти, например, «Rabbi Goldman», персонажа, который набрал более 1,4 миллиона подписчиков. Видеоролики, приписываемые этому персонажу, включали теории заговора о еврейском контроле над мировой финансовой системой, и некоторые из них набрали миллионы просмотров.

Исследователи организации Combat Antisemitism Movement описали очень широкую сеть, включающую более 70 «раввинских» персонажей, созданных с помощью ИИ и действовавших в Instagram. После обращения исследователей к Meta, компания удалила более 60 аккаунтов, которые были выявлены в ходе мониторинга — но фальшивых персонажей можно создавать заново.

И это, пожалуй, одна из самых тревожных характеристик технологии: она драматически снижает стоимость производства пропаганды. Раньше требовался актер, которого нужно было снять, другой человек должен был написать текст, записать голос и создать контент. Сегодня можно создать убедительного персонажа, наделить его голосом, лицом и биографией — и использовать его снова и снова.

Даже когда в кадре нет фальшивого «раввина», Instagram продолжает оставаться ареной для распространения новых версий антисемитских стереотипов. Без труда можно найти там видео Reels на испанском языке, которые представляли теорию заговора, согласно которой евреи являются скрытой силой, стоящей за американским правительством и геополитическими кризисами, используя еврейские символы и еврейскую музыку для усиления послания. То есть, речь идет не только о высказывании «я не люблю Израиль». Речь идет об утверждении, что евреи как группа управляют за кулисами правительствами, деньгами и войнами — один из центральных мотивов современного антисемитизма.

В другом примере видеоролики ИИ показывали еврейских мужчин или хасидов, бегущих за монетами, собирающих деньги или пытающихся достать золото. Повторяющимся посланием было то, что еврей — это человек, движимый прежде всего алчностью. Хасидская одежда использовалась здесь не как представление конкретного человека, а как визуальный ярлык для стереотипного «еврея».

Тем не менее, выбор «раввина» для антисемитской кампании не случаен. Он придает лжи фальшивый авторитет. Обычный антисемитизм говорит: «Я что-то знаю о евреях». Фальшивый «раввин» говорит: «Я еврей, и поэтому я знаю правду о евреях».

Это особенно эффективный пропагандистский механизм. Он позволяет распространять предрассудки и в то же время представлять их так, будто это вовсе не предрассудки. Даже простое опровержение становится более трудным: если якобы еврей говорит эти вещи сам, распространитель может утверждать, что здесь нет никакого антисемитизма.

На самом деле, аккаунты фальшивых раввинов в TikTok и Instagram воспроизводят действие «Протоколов сионских мудрецов», антисемитской подделки 100-летней давности, которая пыталась создать ложное представление о том, что существует тайное еврейское руководство, планирующее захватить мир. Фальшивый текст приписывал евреям контроль над политикой, экономикой, СМИ и социальными системами. Сегодня нет необходимости в печатной брошюре или распространении от двери к двери, потому что алгоритм делает работу за антисемитов.

Вместо «сионских мудрецов» есть «раввин», созданный с помощью ИИ. Вместо фальшивой книги есть 30-секундный видеоролик. Вместо распространения от двери к двери есть система рекомендаций и репостов. И вместо ограниченной аудитории читателей — можно за короткое время достичь миллионов пользователей. Это не делает антисемитизм новым. Напротив: это делает старый антисемитизм более эффективным.

Тот факт, что в сетях легко следить за определенным аккаунтом, предоставляет операторам аккаунтов еще один инструмент: постоянное повторение стереотипов превратит их в глазах зрителя в «истину» благодаря эффекту накопления. Поэтому не удивляйтесь, если среди видеороликов фальшивых раввинов вы найдете и невинные видео — они служат приманкой для зрителя, особенно для молодого зрителя. Они предоставляют ему «жизненный совет» из якобы авторитетного источника и заставляют его втянуться в послания, которые становятся все более токсичными.

Если первое видео представляет еврея как «знатока финансов» и того, к чьим советам стоит прислушаться, следующее видео представит его как гоняющегося за деньгами, а евреев — как тех, кто контролирует финансовую систему. Четвертое превращает все в шутку. Пятое добавляет легкую музыку и мем. Шестое уже вообще не выглядит антисемитским — это просто «еще одно видео».