Расследование BBC: Instagram демонстрирует рекламу педофильского контента в Индии
Британская телерадиовещательная корпорация раскрыла, что Instagram одобряет и демонстрирует платную рекламу по продаже видео с педофилией в Индии. Рекламные объявления, которые якобы прошли проверку механизмами контроля, ведут в Telegram-каналы, где подобные видео продаются за гроши.
Предупреждение: статья содержит описания сексуального насилия над детьми.
Расследование британской телерадиовещательной корпорации BBC раскрывает, что социальная сеть Instagram, принадлежащая компании Meta, демонстрирует рекламу, продвигающую контент с сексуальным насилием над детьми в Индии, и зарабатывает на ней. Платные объявления, использующие прямые формулировки, такие как «видео изнасилования», направляют пользователей в Telegram-каналы, где можно приобрести ужасающие материалы по цене около 99 рупий (около 3 шекелей). Спустя несколько часов после публикации расследования правительство Индии объявило, что вызвало представителей компании Meta для срочных разъяснений.
Meta постоянно утверждает, что реклама в Instagram публикуется только после одобрения системами фильтрации, часть которых в настоящее время основана на искусственном интеллекте, а не на человеческой модерации.
«Не нарушает правила сообщества»
Когда британская корпорация сообщила Instagram об одном из педофильских рекламных объявлений, полученный через 24 часа ответ гласил, что «пост не нарушает правила сообщества». Команда BBC сообщила, например, об объявлении, на котором была изображена плачущая маленькая девочка с подписью, свидетельствующей о том, что она подверглась сексуальному насилию, однако платформа отказалась его удалить. Только после официального запроса о комментарии со стороны редакции новостей в Meta удалили объявления, заблокировали аккаунты и аннулировали ссылки.
«Ни одна система не совершенна, и наш процесс проверки может не выявлять все нарушения политики», — заявила компания в ответ.
Чтобы доказать свои утверждения, команда BBC создала фиктивный аккаунт в Индии. Поначалу аккаунт подписывался на относительно «невинные» страницы индийских женщин, использующих сексуальные намеки. Менее чем через неделю алгоритм Instagram заполнил ленту рекламой порнографических чатов для взрослых. Спустя несколько дней начали появляться экстремальные объявления, демонстрирующие сексуальные акты детей с взрослыми, с приглашением: «Нажмите, чтобы продолжить просмотр в Telegram».
Реклама является кислородом для Meta: около 98% доходов компании в размере 200 миллиардов долларов за последний год поступили от рекламы, и аналитики оценивают, что она составляет более 90% доходов Instagram. Брайан Боланд, занимавший должность вице-президента в Facebook (ныне Meta) и помогавший выстраивать рекламную систему компании в период с 2009 по 2020 год, ранее давал показания против компании и рассказал журналистам-расследователям, что он «шокирован, но не удивлен». По его словам, он уволился, потому что понял, что «им нет дела до пользователей нигде».
«Алгоритм Instagram создан для того, чтобы удерживать пользователей на платформе путем демонстрации чего-то более экстремального, более провокационного», — объяснил Боланд. «Он не был запрограммирован превращать людей в педофилов, но поскольку они не контролируют его ответственно, а просто гонятся за доходами и кликами — таковы результаты».
В ответ на запрос BBC в Meta заявили, что «эксплуатация детей — это ужасающее преступление, и Meta агрессивно действует, чтобы бороться с ним в наших приложениях». Компания полностью отвергла утверждение о том, что она намеренно направляет подобную рекламу людям с педофильскими наклонностями, и отрицает, что доходы стоят выше безопасности.
Тем не менее, расследование также указывает на «конечный пункт назначения» кликов — Telegram. Согласно отчету, преступники используют переход из Instagram в Telegram, чтобы уклониться от механизмов контроля. Telegram (который не является членом основных международных органов по надзору за эксплуатацией детей) со своей стороны заявил, что использует автоматические и человеческие проверки, и что он «фактически искоренил публичное распространение этих материалов на своей платформе».
Эксперты в Индии, стране, занимающей второе место в мире (после США) по количеству сообщений о контенте такого рода, объясняют, что материалы чаще всего производятся преступными организациями, занимающимися торговлей людьми. «Чтобы бороться с этим, нужно отслеживать щупальца организованной преступности и всю цепочку спроса и предложения», — резюмировал высокопоставленный представитель одной из организаций по защите детей в Индии.
