Ким Кардашьян этого не говорила: мошенники используют ИИ для обмана пользователей

В течение последнего месяца в TikTok зафиксирован рост количества видеороликов «дипфейк» — контента, созданного с помощью искусственного интеллекта (ИИ) для имитации внешности и голоса реальных людей. Видео с участием звезд первой величины, таких как Тейлор Свифт, Рианна и Ким Кардашьян, призывают пользователей регистрироваться в мошеннических маркетинговых программах или переходить на вредоносные ресурсы. Несмотря на то что синтетические изображения зачастую выдают неестественная мимика и рассинхронизация звука с движениями губ, злоумышленники продолжают активно использовать этот инструмент.

По данным компании Copyleaks, помимо рекламного мошенничества, дипфейки используются для создания непристойного контента, включая наложение лиц на другие тела без согласия или «цифровое раздевание». В частности, зафиксированы ролики, где Тейлор Свифт якобы рекламирует фальшивую функцию «TikTok Pay», а Рианна — программу вознаграждений за просмотры.

«Тейлор Свифт с розовой гитарой, черным ремнем, в разноцветном переливающемся боди и серебристых сапогах. Она подала три новые заявки на регистрацию товарных знаков: две на свой голос и одну на этот образ в качестве защиты от ИИ-дипфейков.»

Как правило, знаменитости в таких видео появляются в контексте интервью на красных дорожках, подкастов или ток-шоу — ситуаций, где проще использовать реальные кадры других людей, наложив на них нужный образ. Использование качественного аудио делает контент более убедительным для невнимательного зрителя.

Многие ролики эксплуатируют брендинг TikTok и намеренно снижают четкость изображения, чтобы обойти алгоритмы платформы по выявлению ИИ-контента. При переходе по ссылкам из таких видео пользователи попадают на сторонние сайты, где у них запрашивают конфиденциальную личную информацию.

Ситуация обостряется на фоне того, что Тейлор Свифт уже подала заявки на регистрацию товарных знаков для защиты своего голоса и образа от неправомерного использования ИИ. Тем не менее проблема продолжает масштабироваться.

Ранее против компании Meta был подан коллективный иск от имени Федерации потребителей Америки: истцы утверждают, что корпорация извлекала прибыль из рекламного мошенничества в Facebook, аналогичного тому, что сейчас распространяется в TikTok. Федеральная торговая комиссия (FTC) также подтверждает, что мошенническая реклама остается одним из самых распространенных методов обмана в социальных сетях, а развитие технологий ИИ лишь усугубляет эту угрозу.