Apple удалила приложение для создания порнографических дипфейков, продвигавшееся через Meta
Согласно изданию WIRED, приложение Kromix выдавало себя за инструмент для обработки фотографий, но позволяло создавать сексуальные видео с реальными людьми. Meta запустила 32 рекламных объявления, нацеленных исключительно на мужчин, в одном из которых была показана высокопоставленная американская женщина-политик в порнографическом видео.
Apple удалила из App Store приложение Kromix, которое, согласно отчету WIRED, позволяло создавать порнографические дипфейки реальных людей с помощью искусственного интеллекта. Согласно отчету, Meta проводила рекламную кампанию для этого приложения, и в одном из объявлений появилась женщина, похожая на высокопоставленного американского политика.
«Мы всегда строго запрещали приложения, предназначенные для создания, распространения или потребления порнографии», — заявили в Apple изданию WIRED. «Приложения для "раздевания" противоречат нашим правилам App Store, и мы агрессивно работаем над выявлением и удалением приложений, а также учетных записей разработчиков, стоящих за ними, которые пытаются обойти наши процессы и политику».
Согласно сайту WIRED, приложение Kromix представляло себя как AI image styler (ИИ-стилизатор изображений), но в одной из его видеореклам говорилось, что у него нет ограничений, что все персонажи — реальные люди и что это ИИ, которым мужчины действительно пользуются. В том же объявлении была показана женщина, похожая на высокопоставленного американского политика, на фоне флага США и президентского штандарта, рядом с надписью «Что, если бы она двигалась?». После этого она подмигнула, и реклама перешла к сцене, где женщина с тем же лицом появляется в порнографическом видео.
Согласно отчету, обе компании, Meta и Apple, предприняли действия после того, как WIRED обратился к ним за комментариями: Apple удалила Kromix из магазина, а Meta сняла кампанию. Кампания включала 32 рекламных объявления, нацеленных только на пользователей-мужчин.
В Apple в ответ заявили, что Kromix добавила запрещенный контент и функции уже после прохождения первоначальной проверки App Store. Это похоже на ответ, который Apple дала в прошлом месяце после того, как городской прокурор Сан-Франциско Дэвид Чиу потребовал от нее удалить из магазина восемь приложений для «раздевания».
WIRED также сообщил, что Kromix — не единственное приложение такого рода, которое Apple удалила недавно после обращения сайта. В ходе другого расследования WIRED обнаружил, что несколько проблемных объявлений в Meta вели на MaskAI, приложение в магазине Apple, которое аналогичным образом позволяло загружать фотографии и вставлять лица людей в сексуальные ситуации. Apple также удалила MaskAI после того, как WIRED обратился за комментариями.
