Новые машины пропаганды: ИИ изучает вас, а не убеждает

На прошедшей неделе депутаты Кнессета от партии «Ликуд», включая премьер-министра, наводнили социальные сети сгенерированными изображениями и видеороликами с Нафтали Беннетом. Некоторые из них выглядят достоверно, другие настолько неуклюжи, что вызывают смущение: кого именно это должно убедить? Однако этот вопрос больше не актуален. Он опирается на устаревшее представление о том, что политическая пропаганда измеряется способностью сообщения убеждать. Современные методы действуют по иной логике.

Цель заключается не столько в манипуляции, сколько в проверке того, что работает. Следует помнить: искусственный интеллект (ИИ) не только создает сообщения, но и автоматизирует весь процесс пропаганды.

Когда кампания становится экспериментом

Сообщения — это лишь продукт процесса: данные собираются из различных источников, обрабатываются в профили, переводятся в вероятностные оценки поведения и превращаются в решения о том, какой контент создавать, кому его показывать и в какой момент. Системы ИИ позволяют осуществлять непрерывное производство сообщений, их тестирование в реальном времени и постоянное улучшение моделей на основе реакций аудитории. Все это происходит автономно, в огромных масштабах и при низких затратах. В этой системе видеоролик является лишь «точкой данных» (data point), а не самостоятельным сообщением.

Как только это осознаешь, неоднородное качество роликов — от достоверных до нелепых — перестает быть сбоем и становится частью метода. Эта система, основанная на таргетинге и эмпирической проверке, действует циклично: она создает различные версии, измеряет их эффективность и совершенствует себя. У нее нет интереса в «правильном» сообщении, только в данных о реакциях. Поэтому наводнение пространства контентом разного уровня достоверности — это эксперимент.

Что здесь проверяется? Какой тип изображения вызывает более сильную эмоциональную реакцию; какой контент распространяется быстрее в закрытых группах; какое сообщение выживает даже после опровержения. Система проверяет границы восприятия общественности: насколько мы действительно умеем распознавать подделку и насколько мы лишь уверены в этом. Чрезмерная уверенность израильтян, ощущение, что «на меня это не действует», — часть проблемы. Даже неубедительный контент оставляет когнитивные следы: ассоциацию, предчувствие, смутное воспоминание о связи между персонажами, которой не было в реальности. Когда пространство наводняется контентом с размытыми границами истины, можно проверить, когда общественность начинает верить в ложь и когда она перестает отличать подделку от реальности.

Пропагандистская машина, которой не нужно убеждать

В предыдущем цикле поддельное изображение было распространено в официальных аккаунтах «Ликуда» 22 января в ночные часы, а затем быстро перешло из открытых лент в WhatsApp и Telegram. Общественное внимание к нему привлекли на следующий день, но решение председателя избирательной комиссии об удалении контента и наложении штрафа на партию было вынесено лишь спустя три недели. Это окно в три недели — время, за которое можно распространить контент, набрать охваты и измерить влияние до того, как последует вмешательство. Выборы в этом смысле уже начались — не как кампания, а как эксперимент.

Ролики о Беннете не являются исключением или сбоем. Они — часть систематического процесса проверки, измерения и калибровки общественности, институтов и условий реальности, в которых проводятся выборы.

Разрыв между законами о предвыборной пропаганде и реальностью никогда не был так велик. Правила писались для мира, где сообщение проверяется постфактум, тогда как система действует в реальном времени, учится и использует промежуток времени, когда реакции нет. Если мы продолжим относиться к каждому ролику как к отдельному событию, подавать жалобы и ждать решений, мы рискуем обнаружить, что сами участвуем в эксперименте, вместо того чтобы понять его суть. Дело уже не в отдельном ролике, а в механизме, который проверяет нас и заново настраивает условия, в которых осуществляется демократический выбор.