«Это дипфейк»: как ИИ-контент меняет правила политической борьбы
Конституционная комиссия Кнессета обсуждает законопроект об обязательной маркировке предвыборной агитации, созданной или существенно измененной с помощью искусственного интеллекта. Инициатива призвана защитить избирателей от манипуляций и предотвратить распространение дезинформации в условиях, когда грань между реальностью и машинной имитацией стирается.
По всей видимости, поправка к закону о выборах, обсуждавшаяся сегодня в Конституционной комиссии, выглядит как техническая деталь: если она будет утверждена, любая предвыборная агитация, созданная или существенно измененная с помощью искусственного интеллекта (ИИ) — будь то текст, изображение, видео или аудиофайл — будет подлежать обязательной маркировке. На самом деле это один из важнейших законопроектов, продвигаемых в Израиле с момента стремительного внедрения ИИ в повседневную жизнь.
В течение многих лет дискуссии велись вокруг того, допустимо ли распространение лжи в ходе предвыборных кампаний. Удивительно, но в Израиле до сих пор нет общего запрета на подобные действия, однако сегодня суть проблемы изменилась. Главный вызов, который создает ИИ, заключается не в самой лжи, а в том, что по мере совершенствования технологий общественность теряет способность отличать человеческое творчество от машинного. Возможность прояснить реальность — это не роскошь, а необходимое условие для функционирования демократического процесса. Избирателю, который не знает, запечатлено ли на видео реальное событие или оно сгенерировано нейросетью, крайне трудно принять взвешенное политическое решение.
В Государстве Израиль этот вызов стоит особенно остро. С одной стороны, мы являемся одним из мировых лидеров по внедрению инструментов ИИ и чат-ботов. С другой стороны, международные исследования показывают, что уровень цифровой и медиаграмотности израильтян остается низким. Такое сочетание делает общество особенно уязвимым к манипуляциям. Более того, возможности генерации контента создают так называемый «дивиденд лжецов»: когда все знают, что подделать можно практически что угодно, даже подлинные видеозаписи становится легко отрицать. Любой политик, пойманный на сказанном, может просто заявить: «Это дипфейк». Поэтому маркировка контента, созданного с помощью ИИ, укрепляет доверие и к тем материалам, которые не были помечены.
Включение требования о маркировке в закон о выборах важно не только из-за самого факта обозначения контента, но и из-за полномочий, которые оно дает председателю Центральной избирательной комиссии: требовать удаления немаркированных материалов, налагать санкции на рекламодателей и обязывать цифровые платформы добавлять соответствующие пометки.
Стоит опровергнуть утверждение о том, что маркировка невозможна. Напротив, это вполне реализуемо. Европейский союз недавно опубликовал подробные инструкции о том, как маркировать такой контент — как в открытой для пользователей форме, так и с помощью технологических меток, распознаваемых платформами. Было бы уместно, чтобы законопроект обязал председателя Центральной избирательной комиссии издать аналогичные инструкции по применению.
Однако важно, чтобы формулировка закона была точной. Предложение в текущем виде фокусируется на термине «дипфейк» (на иврите — «нахазут амука»). Но «дипфейк» — это лишь одна из технологий, а законодатель должен регулировать не инструмент, а принцип: был ли контент создан или существенно изменен таким образом, что это может ввести разумного человека в заблуждение относительно реальности событий?
Нужно помнить, что это лишь первый шаг. Системы ИИ будут влиять на выборы через чат-боты, персонализированное убеждение, автономных агентов и эмоциональные манипуляции. Этот закон не решит всех проблем, но он закладывает необходимый регуляторный фундамент. А тем, кто опасается цензуры, напомним: никто не запрещает использовать ИИ в политических кампаниях. Наоборот, разрешено создавать плакаты, видео, речи и даже юмористический контент. Единственное требование — базовая честность перед общественностью: если вы существенно изменили реальность с помощью ИИ или создали то, чего не было, сообщите об этом. Это не война с технологиями и не война со свободой слова, а борьба с введением в заблуждение. Если вы стоите за своим посланием — подпишитесь под ним, а если его создала машина — пометьте это.
Д-р Техила Шварц-Альтшулер — руководитель программы по демократии в информационную эпоху и старший научный сотрудник Израильского института демократии.
