До 2028 года: план Китая по контролю над ответами чат-ботов
Люди используют ИИ для получения ответов на широкий спектр вопросов. Однако за этими ответами скрывается борьба между государствами за контент, на котором обучаются модели. Чтобы победить в войне нарративов, Китай готов инвестировать огромные средства, и пока это работает.
Когда вы спрашиваете чат-бота о территориальном споре, историческом событии или политической позиции, полученный от искусственного интеллекта ответ может показаться нейтральным, аргументированным и объективным. Но под «технологическим капотом», обеспечивающим точный ответ, идет теневая война между различными сторонами за каждое слово.
Речь идет о хорошо организованных и финансируемых государственных усилиях: от инвестирования ресурсов в создание моделей и построение наборов данных до прямого давления на технологические компании. Цель состоит не только в том, чтобы влиять на то, что видят люди, но и в том, чтобы определять, что «знает» машина.
Вербовка и распространение данных: Китай готовится к войне
Одним из наиболее ярких примеров является Китай, который работает над тем, чтобы стать мировой державой в области данных для обучения моделей ИИ. Пекин стремится конкурировать с западным нарративом, возглавляемым США, и внедрять ценности Коммунистической партии в глобальные системы ИИ.
Как недавно сообщила газета The New York Times, в Китае осознают, что ведущие мировые модели ИИ обучаются преимущественно на данных на английском языке и отражают западное мировоззрение. С точки зрения Пекина, это стратегическая уязвимость, из-за которой западные нарративы по вопросам прав человека, статуса Тайваня и политики преобладают над китайской позицией.
Согласно публикации, Китай представил план по превращению страны в ключевого поставщика обучающих данных к 2028 году. Цель состоит в создании качественных баз данных в более чем двух десятках стратегических областей, привлечении экспертов для разметки данных, открытии академических курсов и распространении баз данных с открытым исходным кодом, содержащих информацию, соответствующую ценностям КНР.
Наводнение контентом: как это работает
Ошер Коэн, основатель компании Yo Secure и эксперт по кибербезопасности, поясняет: «Некоторые модели ИИ, особенно подключенные к поиску в интернете, ищут источники перед тем, как сформулировать ответ. Если какой-либо стороне удается создать в сети огромное количество контента вокруг определенного нарратива, обеспечить его достоверный вид и высокое присутствие в поисковой выдаче, она увеличивает вероятность того, что эта информация попадет в процесс формирования ответа ИИ».
Коэн отмечает, что реальная проблема заключается в прозрачности: «Пользователю трудно проследить весь процесс. Мы получаем один уверенный ответ, но не всегда понимаем, почему именно эти источники были выбраны. Вопрос сегодня не только в том, ошибается ли ИИ, но и в том, кто повлиял на информацию, которую он проанализировал перед ответом».
Борьба с дезинформацией: отчет об Израиле
Издание Politico сообщало, что Израиль запустил кампанию влияния в США, чтобы наполнить языковые модели позитивной информацией о деятельности ЦАХАЛ и войне в секторе Газа на фоне снижения общественной поддержки. Согласно отчету, Национальное бюро по связям с общественностью задействовало французское агентство Havas Media и субподрядчика Piro. Было инвестировано 100 тысяч долларов в создание сайта «Hanover Institute for Public Policy», содержащего десятки анонимных статей в формате вопросов и ответов, что способствует усвоению контента моделями.
Напомним, что в 2024 году компания OpenAI выявила и заблокировала пять тайных операций влияния, исходящих из России, Китая, Ирана и Израиля, которые использовали инструменты ИИ для оптимизации пропагандистской деятельности.
Опасения в преддверии выборов
Предстоящие выборы в Израиле станут показательным примером способности моделей влиять на общественное мнение. Д-р Техила Шварц-Альтшулер, старший научный сотрудник Израильского института демократии, отмечает: «Уровень проникновения чат-ботов в Израиле — один из самых высоких в мире, при этом цифровая грамотность населения остается средней. Люди используют чат как советника, обращаясь к нему за информацией по вопросам повестки дня и выборов. Опасение заключается в том, что это станет инструментом влияния, который трудно обнаружить в режиме реального времени, так как каждый пользователь получает персонализированный ответ».
