Новое исследование раскрывает драматическое распространение антисемитизма на базе AI в социальных сетях

Новый и первый в своем роде отчет организации CyberWell, независимой технологической некоммерческой организации, занимающейся борьбой с антисемитизмом в сети, раскрывает тревожные данные о том, как инструменты генеративного искусственного интеллекта (Gen AI) меняют масштаб и скорость распространения контента ненависти. Исследование, в рамках которого были проанализированы сотни постов, опубликованных в период с января 2025 года по февраль 2026 года, показывает, как растущая популярность моделей изображений, видео и аудио привела к взрывному росту изощренного антисемитского контента в цифровом пространстве.

Согласно данным организации, верифицированная база данных, содержащая всего 300 единиц антисемитского контента на базе AI, сумела набрать более 30 миллионов просмотров и более 2,8 миллиона взаимодействий в основных социальных сетях.

«Индустриализация ненависти»: доступные инструменты, ставшие оружием

Исследование показало, что враждебные элементы злоупотребляли распространенными и доступными инструментами, такими как Sora от OpenAI, инструмент Veo от Google, Grok (в сети X) и Suno, для массового и промышленного производства грубого антисемитского контента. Эти инструменты позволили сочетать визуальные эффекты, аудио и полностью вымышленные нарративы вместе с видеокадрами реальных событий — что сделало ложь и пропаганду более достоверными, привлекательными и гораздо более трудными для идентификации.

«Искусственный интеллект фундаментально изменил масштаб и скорость, с которыми можно производить и распространять антисемитизм в сети», — заявила генеральный директор и основательница CyberWell Таль-Ор Коэн Монтемайор. «Сегодня можно производить контент ненависти в промышленных масштабах и охватывать миллионы, в то время как меры по пресечению обычно принимаются только после того, как контент уже получил широкое распространение».

В отчете также отмечается, что после масштабного злоупотребления видеомоделью Sora для распространения проблемного контента компания OpenAI в конечном итоге закрыла этот инструмент — шаг, который иллюстрирует масштабную проблему, стоящую перед разработчиками AI в предотвращении злоупотребления технологией.

Главная цель: дети и игровые пространства

Один из самых тревожных выводов отчета касается целевой аудитории. Около 79% изученного антисемитского контента появилось на видеоплатформах (TikTok, Instagram и YouTube), где форматы коротких видео и вирусные тренды доминируют и нацелены на молодую аудиторию.

Исследование показывает, что музыкальный и игровой контент на базе AI, включая материалы, связанные с популярными играми, такими как Roblox и Minecraft, неоднократно использовался для внедрения антисемитских идей в пространства, предназначенные для молодежи. Значительная часть контента была посвящена насмешкам и отрицанию Холокоста, и когда дети смотрели этот контент, лента одновременно предлагала им оскорбительный материал, рассчитанный на эксплуатацию или вовлечение несовершеннолетних.

Насильственный антисемитизм удваивается

CyberWell начала на постоянной основе отслеживать этот феномен AI после резкого роста воздействия контента после атаки ХАМАС 7 октября 2023 года. Тем не менее, наиболее значительный поворотный момент был зафиксирован во время конфликта в июне 2025 года между Ираном, Израилем и США: с тех пор был выявлен резкий и продолжительный скачок в кросс-платформенном распространении антисемитизма на базе AI.

Измеренные показатели вовлеченности (Engagement) были экстремальными:

Контент, включающий прославление или призывы к насилию против евреев, составлял 33% контента, но вызвал 41% всех взаимодействий в сетях.

Этот вывод свидетельствует о том, что наиболее экстремальный контент распространяется очень быстро и охватывает широкую аудиторию.

По сравнению с предыдущими отчетами организации было обнаружено, что насильственный антисемитский контент встречается в два раза чаще (в 2 раза) в материалах, созданных с помощью AI, по сравнению с обычным антисемитским контентом, созданным пользователями.

Резкие различия в мерах пресечения между социальными сетями

Отчет представляет сложную картину механизмов контроля и удаления на различных платформах:

TikTok: несет ответственность за наибольшую часть контента (36%), но продемонстрировал самый высокий уровень контроля и удаления — 88%.

Instagram: зафиксировал аномальный и непропорциональный уровень взаимодействий в 65%, несмотря на то, что его доля во всех постах составила всего 25%.

Политика Meta и TikTok: обе компании зафиксировали показатели удаления выше своих средних значений по отношению к антисемитским постам, по всей видимости, из-за наличия более четких рамок политики по работе с контентом, созданным AI.

YouTube и X (Twitter): зафиксировали значительно более низкие показатели удаления — 28% в YouTube и всего 20% в сети X, и у них нет аналогичных четких положений политики.

Организация подчеркивает, что даже когда меры принимаются, они часто запаздывают и приходят со значительной задержкой, а контент остается в сети достаточно долго, чтобы набрать сотни тысяч или миллионы просмотров до его удаления.

«Платформы должны выйти за рамки простых заявлений о прозрачности и инвестировать в системы, способные идентифицировать вредоносные нарративы в широком масштабе, включая те, что внедрены в аудио, визуальные эффекты и закодированный язык, которым удается ускользнуть от традиционных механизмов идентификации», — подытожила Коэн Монтемайор. Она призвала технологические компании и политиков усилить механизмы автоматической идентификации, инвестировать в качественный человеческий контроль и сотрудничать с внешними экспертами, чтобы остановить развивающуюся волну цифровой ненависти.