Хакеры из Китая использовали ChatGPT для манипуляции общественным мнением в США
Согласно новому отчету OpenAI, группы пользователей, предположительно действовавшие из Китая, применяли ChatGPT для создания контента, изображений и политических посланий. Целью кампании было влияние на общественное мнение в США по вопросам развития инфраструктуры искусственного интеллекта.
Компания OpenAI опубликовала отчет, раскрывающий, что пользователи, предположительно находящиеся в Китае, использовали чат-бот ChatGPT для реализации кампании влияния на американскую общественность. Согласно данным разработчика ИИ, целью операции было формирование негативного отношения к созданию дата-центров для нужд индустрии ИИ путем эксплуатации чувствительных тем в американской экономике.
Деятельность аккаунтов была разделена на две основные группы. Первая, получившая кодовое название «Data Center Bandwagon», генерировала через ChatGPT тезисы и комиксы на английском языке, акцентируя внимание на росте спроса на электроэнергию и увеличении счетов для населения. Операторы выдавали себя за американских граждан и распространяли контент в социальных сетях. По оценкам OpenAI, за этим стоит команда частной китайской компании, действующая в интересах местных государственных структур. Операторы даже загружали в чат-бот файлы с описанием стратегии по созданию фиктивных аккаунтов для обхода систем безопасности.
Эта же группа преследовала диссидентов и китайских политических обозревателей, используя ChatGPT для генерации оскорблений. Одновременно они выступали от лица китайских иммигрантов в США, критикуя политику администрации в Вашингтоне.
Кампания отличалась использованием реальных фактов: операторы интегрировали в посты ссылки на легитимные новостные статьи о нагрузках на электросети. Рост цен на электричество вблизи серверных ферм является реальной проблемой: в некоторых районах стоимость энергии за пять лет выросла на 267% из-за того, что спрос со стороны индустрии ИИ превысил предложение.
Вторая группа занималась созданием контента, критикующего тарифную и технологическую политику США, продвигая тезис о том, что Вашингтон предает своих союзников. Операторы требовали от ChatGPT исключать председателя КНР Си Цзиньпина из генерируемых изображений и готовили материалы на английском, итальянском, японском и традиционном китайском языках для воздействия на аудиторию, включая Тайвань.
В OpenAI признают, что кампании не достигли широкого охвата и не изменили общественное мнение, однако подчеркивают серьезность попыток иностранных сил тайно влиять на внутреннюю дискуссию США. Примечательно, что в отчете отмечается неспособность компании объяснить, почему операторы предпочли использовать американский чат-бот, а не китайские аналоги, такие как DeepSeek.
