Meta продвигает антисемитский контент через алгоритмы рекомендаций

Новый отчет, опубликованный в этом месяце Центром исследования антисемитизма (ARC) Движения по борьбе с антисемитизмом (CAM), раскрывает тревожную картину: социальная сеть Instagram активно рекомендует контент, продвигающий ненависть к евреям, опасные теории заговора и антизападную пропаганду.

Согласно результатам расследования, проведенного в течение 96 часов (19–22 марта), исследователи задокументировали 100 подстрекательских постов, представленных пользователям через систему рекомендаций. Только эти публикации набрали более 5,3 миллиона лайков и 3,8 миллиона репостов, достигнув оценочного охвата от 150 до 280 миллионов пользователей.

Наиболее критичным является то, что пользователи не искали этот экстремистский контент самостоятельно. Именно платформа послужила каналом, который усиливал его через механизмы распространения. В отчете утверждается, что алгоритм создает закрытые контентные среды, подпитывающие пользователей антисемитскими сообщениями без альтернативного контента, что ведет к радикализации. При этом материнская компания Meta косвенно получает значительную рекламную прибыль от вовлеченности аудитории.

Новая угроза: фальшивые раввины на базе ИИ

Одной из опасных тенденций стало использование персонажей, созданных искусственным интеллектом, для распространения ненависти. Исследователи идентифицировали аккаунт «Раввин Голдман» (Rabbi Goldman) — нереального человека, а ИИ-персонажа, набравшего более 1,4 миллиона подписчиков. Аккаунт продвигает теории заговора о «еврейском контроле» над мировой финансовой системой, при этом некоторые видео набирают более 5 миллионов просмотров.

Всего было обнаружено 12 аккаунтов фиктивных раввинов с совокупной аудиторией в 2,1 миллиона подписчиков, транслирующих классические антисемитские стереотипы. Страница «Раввина Голдмана» была удалена из Instagram, но продолжает функционировать в Facebook.

В отчете подробно описаны посты, получившие вирусное распространение:

Обвинения в исторических катастрофах: фрагмент подкаста (191 000 лайков) утверждает, что евреи — это демоны, контролирующие правительство США, суды и банковскую систему, а также обвиняет их в терактах 11 сентября и гибели «Титаника».
Кровавые наветы и сатанизм: пост с более чем 32 300 лайками связывает семью Ротшильдов и сионизм с движением иллюминатов и поклонением богу Ваалу. Другое видео (75 000 лайков) демонстрирует демоническую статую с числом 666 и магендавидом на фоне флагов Израиля и США.
Искажение Холокоста: видео, собравшее 12 500 лайков, продвигает ложное утверждение, будто евреи сами несли ответственность за гибель соплеменников в Холокосте ради создания Государства Израиль.
Сравнение с дьяволом: видео с участием Бобби Фишера (36 500 лайков) прямо сравнивает евреев с дьяволом, утверждая, что их идентичность «порочна по своей сути».

Саша Ройтман, генеральный директор CAM, заявил: «Мы исследуем антисемитизм годами, но впервые столкнулись с такой легкостью и масштабами распространения контента. Мы задаемся вопросом: какова ответственность Instagram за рост антисемитизма в мире?»

Выводы отчета требуют немедленной реакции на глобальном уровне. Когда платформа не только позволяет существовать антисемитскому контенту, но и активно продвигает его, речь идет о системном сбое. Meta должна провести глубокие изменения в алгоритмах рекомендаций.

Напомним, что на прошлой неделе Meta проиграла судебный процесс в Нью-Мексико, где компания была обязана выплатить 375 миллионов долларов штрафов за введение потребителей в заблуждение относительно безопасности платформ и создание угроз для детей. Артуро Бежар, бывший старший инженер Meta, свидетельствовал, что персонализированные алгоритмы, эффективные в таргетировании рекламы, могут быть использованы для вредоносных целей: «Если ваша сфера интересов — маленькие девочки, алгоритм будет очень хорош в том, чтобы соединить вас с ними». Аналогичный принцип работает и с антисемитским контентом, затягивая пользователя в «кроличью нору» радикализации. Meta была проинформирована по данному вопросу до публикации отчета.