Сбой в Meta: одобрена публикация сексуального контента с участием несовершеннолетних
Компания Meta удалила десятки рекламных объявлений, содержащих оскорбительный сексуальный контент с участием несовершеннолетних, созданный с помощью ИИ. Это произошло после того, как исследователи Tech Transparency Project обнаружили более 50 подобных публикаций. Meta заявила о разработке новых систем контроля.
Исследователи Tech Transparency Project (TTP), независимой американской организации, отслеживающей деятельность технологических компаний, обнаружили десятки платных рекламных объявлений, содержащих оскорбительный сексуальный контент с участием несовершеннолетних, созданный с помощью искусственного интеллекта. Американский технологический журнал WIRED проверил полученные данные в Meta и опубликовал расследование.
Согласно расследованию, в период с ноября 2025 года по начало августа 2026 года фальшивые сексуальные изображения появлялись в более чем 50 рекламных объявлениях в Facebook, Instagram, Threads и Messenger. Реклама была обнаружена в США, Великобритании и более чем в дюжине стран Европы. Некоторые из них продвигали приложения под названием «Nudify», которые используют искусственный интеллект для создания фальшивых сексуальных изображений людей без их согласия.
По словам директора TTP Кэти Пол, «реклама не предпринимала никаких усилий, чтобы скрыть изображения или то, что они продвигали». Исследователи отметили, что некоторые кампании перенаправляли пользователей на такие сервисы, как MaskAI — приложение, которое, по их словам, было позже удалено из магазина приложений Apple после того, как нарушило политику компании, запрещающую приложения для цифрового «раздевания».
Согласно выводам TTP, некоторые объявления сочетали изображения несовершеннолетних с сообщениями откровенно сексуального характера. В одном из задокументированных случаев видеореклама демонстрировала миниатюру с изображением ребенка рядом с текстом, приглашающим пользователей «воплотить фантазии» с помощью искусственного интеллекта. После нажатия на объявление демонстрировались видеоролики сексуального характера, в которые искусственно было вставлено лицо несовершеннолетнего, утверждают исследователи.
Исследователи сообщили, что даже после того, как некоторые кампании перестали быть активными, объявления оставались доступными в течение нескольких месяцев в публичной библиотеке рекламы Meta, что свидетельствует о том, что они прошли механизм одобрения компании. В одной из кампаний было зафиксировано 2563 показа пользователям в Европе.
По данным журнала WIRED, система проверки рекламы Meta в значительной степени полагалась на автоматизированные системы, основанные на распознавании паттернов, которым было трудно определить контекст контента. По утверждению исследователей, именно поэтому были одобрены объявления, которые, по всей видимости, нарушали политику компании, запрещающую эксплуатацию или причинение вреда детям, а также любой откровенный сексуальный контент в рекламной системе.
В ответ Meta сообщила, что удалила рекламу и аккаунты, о которых ей было сообщено. Компания также заявила, что разрабатывает новое поколение моделей искусственного интеллекта, предназначенных для улучшения контроля против контента, связанного с сексуальной эксплуатацией детей. По словам компании, новые системы анализируют полный контекст публикаций и объявлений, включая язык, намерение и формулировки, а не полагаются только на распознавание паттернов.
Компания добавила, что в чувствительных случаях «продолжают привлекаться и человеческие проверяющие».
Еще один юридический удар: огромный штраф почти в миллиард долларов
Параллельно с этим разоблачение провала в системе рекламы происходит в то время, когда Meta получает беспрецедентный юридический удар по вопросу безопасности и защиты детей на своих платформах. Суд в штате Нью-Мексико в США обязал компанию выплатить дополнительный штраф в размере 567 миллионов долларов — это в дополнение к штрафу в 375 миллионов долларов, наложенному на нее в марте прошлого года из-за ущерба от социальных сетей и зависимости несовершеннолетних. Таким образом, общая сумма компенсаций, которую технологический гигант должен выплатить в штате, достигает 942 миллионов долларов.
Наряду с финансовой санкцией судья вынес постановление, обязывающее Meta внести глубокие технологические изменения в работу Facebook и Instagram для молодых пользователей. Среди прочего, компания должна будет удалить счетчик «лайков» для несовершеннолетних в возрасте до 18 лет, если не будет получено явное разрешение от родителя или опекуна.
Кроме того, введено обязательство отключать уведомления для молодых пользователей в ночное время (между 22:00 и 07:00 утра) и ограничить их общее время использования сетей до 90 часов в месяц — в среднем около 45 минут в день.
«Значительное число людей в Нью-Мексико испытывают вред от продуктов Meta из-за рисков сексуальной эксплуатации, нарушения образования и негативных последствий для психического здоровья», — говорится в решении суда. Генеральный прокурор Нью-Мексико Рауль Торрес резко раскритиковал компанию: «В течение многих лет Meta знала, что ее платформы вредят детям — от подпитки кризиса психического здоровья до связи между сексуальными преступниками и детьми — и выбирала вовлеченность и прибыль вместо их безопасности. Сегодня Meta платит за этот выбор».
В Meta заявили о намерении подать апелляцию на решение суда. Представитель компании Энди Стоун сообщил, что Meta усердно работает над обеспечением безопасности пользователей.
