Искусственный интеллект усиливает кампании дезинформации в Юго-Восточной Азии
Эксперты предупреждают, что искусственный интеллект предоставляет политическим силам в Юго-Восточной Азии новые инструменты дезинформации. В докладе Anthropic раскрыто использование модели Claude для манипуляций в Малайзии.
Угрозы, связанные с искусственным интеллектом, привлекают всеобщее внимание: эксперты предупреждают, что революционная технология может предоставить политическим силам в Юго-Восточной Азии мощные инструменты для масштабного распространения дезинформации. Особенно уязвим этот регион, население которого отличается молодостью и высокой активностью в социальных сетях.
Один из тревожных инцидентов был недавно раскрыт компанией Anthropic, которая сообщила об использовании своей языковой модели Claude в рамках политической кампании влияния в Малайзии. В ходе этой деятельности была создана коммерческая платформа для манипулирования выборами, задействовавшая сеть примерно из 1000 аккаунтов в социальной сети X, фальшивый новостной сайт под названием «Malaysia Pulse» и серию поддельных документов.
Манипуляции в социальных сетях
По данным компании, эта операция, вероятнее всего, была направлена на влияние на избирателей в ходе недавних политических циклов в Малайзии. Злоумышленники использовали данные переписи населения и выборов для разжигания чувствительных социальных противоречий — вопросов расы, религии и монархии — во всех 222 парламентских избирательных округах страны.
Кампания была пресечена после вмешательства Anthropic, однако этот случай вызвал серьезные опасения по поводу того, как искусственный интеллект может применяться в будущих избирательных процессах в Юго-Восточной Азии — регионе, который уже страдает от засилья фейковых новостей и дезинформации.
«Искусственный интеллект способен усилить подобные события: он позволяет создавать больше контента — персонализированного, быстрого и дешевого», — отметила Кэти Харбат, бывший директор по государственной политике компании Meta, а ныне руководитель консалтинговой фирмы Anchor Change. При этом она подчеркнула, что для успеха таких кампаний по-прежнему необходим механизм дистрибуции, который обеспечивают социальные сети.
Отчет компании Anthropic
Anthropic подробно описала деятельность в Малайзии в своем последнем отчете, опубликованном в сентябре. В документе рассказывается, как различные акторы использовали Claude для создания сетей фальшивых профилей в соцсетях и фиктивных новостных ресурсов, ориентированных на аудиторию на шести континентах.
Представители компании заявили, что в подобных операциях задействованы государства, провластные структуры пропаганды, официальные СМИ, а также частные компании, предоставляющие услуги по формированию общественного мнения.
Юго-Восточная Азия хорошо знакома с распространением дезинформации. Ранее филиппинская журналистка и лауреат Нобелевской премии мира Мария Ресса сравнивала Филиппины с «чашкой Петри» для тестирования методов злоупотребления фейковыми новостями, которые впоследствии успешно применялись и на Западе.
Скорость генерации контента
Тем не менее, искусственный интеллект делает этот процесс значительно проще и быстрее.
«В сущности, ИИ просто имитирует то, что несколько лет назад мы назвали бы фабрикой троллей», — пояснил Россин Палорина из филиппинского исследовательского института Sigla. По его словам, главное преимущество заключается в скорости: «Вам больше не нужны десять человек для создания единого нарратива. Достаточно написать промпт и запустить распространение».
В прошлом году компания OpenAI заблокировала учетные записи, которые использовали генеративный искусственный интеллект для публикации комментариев о филиппинской политике и общественных деятелях в соцсетях. Многие из этих фальшивых сообщений содержали поддержку президента Фердинанда Маркоса-младшего.
Эксперты опасаются, что применение ИИ в социальных сетях способно усилить политический и социальный раскол. «Это подпитывает политическую поляризацию и эксплуатирует существующие разногласия», — подчеркнула Бриджет Уэлш из Азиатского исследовательского института Ноттингемского университета в Малайзии.
Риски для будущих выборов
Всеобщие выборы в Малайзии могут пройти в конце 2027 года, на Филиппинах и в Камбодже голосование запланировано на 2028 год, а в Индонезии — в следующем за ним году.
Доктор Бен Ло, преподаватель коммуникаций в Университете Монаша в Малайзии, отметил, что контент, созданный с помощью ИИ, использовался для разжигания ненависти к беженцам-рохинджа, бежавшим из Мьянмы в Малайзию на фоне гражданской войны.
«Люди изначально приходят с уже укоренившейся глубокой ненавистью, и когда они видят подобный контент, пусть даже созданный с помощью ИИ, это лишь подтверждает для них то, во что они уже верят», — заявил он.
В отчете Anthropic также отмечается, что фальшивый новостной сайт «Malaysia Pulse» копировал реальные репортажи малайзийских СМИ, после чего использовал языковую модель для их многократной переработки и публикации под именами вымышленных авторов.
Кроме того, ресурс републиковал статьи из зарубежных СМИ, связанных с Россией и Китаем, включая TV BRICS, «Синьхуа», Sputnik, РИА Новости и CGTN, удаляя при этом ссылки на первоисточники.
«В каждом случае, когда выявлялась активность политического влияния, компания пресекала ее, использовала полученный опыт для укрепления собственной защиты и делилась разведданными с властями и отраслевыми партнерами», — резюмируется в отчете.
