OpenAI раскрыла российскую кампанию влияния, продвигавшую фиктивный израильский «исследовательский институт»

Компания OpenAI раскрыла российскую кампанию влияния, которая использовала возможности искусственного интеллекта для продвижения фиктивного израильского «исследовательского института» под названием International Burke Institute (IBI).

«То, что начиналось как расследование постов в социальных сетях, сгенерированных с помощью ИИ, привело к раскрытию гораздо более масштабной кампании влияния, построенной вокруг сайта, содержащего плагиат академических работ, «индекс суверенитета», представляющий Россию в позитивном свете, и попытки скрыть российское происхождение деятельности», — говорится в отчете, опубликованном компанией вчера.

Кампания была раскрыта после того, как OpenAI выявила и заблокировала группу учетных записей ChatGPT, оператор которых писал на русском языке промпты для генерации постов и комментариев в Substack, Telegram, X, Facebook и LinkedIn. «Большинство комментариев были на английском языке, и оператор стремился скрыть лингвистические признаки российского происхождения. Мы не разрешаем доступ к нашим моделям из России, и для доступа к нашей платформе использовался VPN», — сообщили в компании.

Большая часть сгенерированного контента была направлена на продвижение фиктивного исследовательского института IBI. Сайт института утверждает, что он базируется в Израиле, и многие опубликованные на нем статьи были фактически скопированы из реальных академических публикаций с ошибочным указанием авторства. Другие были написаны на славянском языке и автоматически переведены на английский. Самой заметной публикацией на сайте института был «индекс суверенитета», призванный восхвалять Россию и наносить ущерб западным странам.

Основное использование ChatGPT заключалось в создании постов, продвигающих институт. «Часть из них была опубликована учетными записями, включавшими название и логотип IBI, другие якобы исходили от обычных пользователей, чья основная деятельность заключалась в публикации постов IBI», — заявила OpenAI. «Кроме того, операторы генерировали ответы на посты реальных пользователей в Substack по различным темам. Ответы часто включали просьбу подписаться на канал IBI на платформе и публиковались им самим».

Один из операторов генерировал посты на немецком языке, которые публиковались в Telegram-канале Lahme Ente («Хромая утка») и критиковали Украину, Европейский союз и правительство Германии. Другой оператор генерировал логотипы для дюжины Telegram-каналов, которые фокусировались на Германии, США, Франции, Польше и Турции.

Деятельность ИИ, выявленная OpenAI, была лишь вспомогательной по отношению к основной работе кампании влияния, которая заключалась в управлении фиктивным исследовательским институтом. Сайт IBI утверждал, что это независимое «сообщество экспертов», действующее из Израиля, в которое входят всемирно известные эксперты, такие как Фрэнсис Фукуяма и Ноам Хомский. Однако выборочная проверка 36 статей, проведенная компанией, показала, что 34 из них были скопированы из других мест.

«Некоторые из них были написаны несколько лет назад, другие были приписаны неверным авторам. Например, статья об экономическом коридоре Китай-Пакистан была скопирована из публикации издательства Кембриджского университета и ошибочно приписана профессору из Ноттингемского университета. Такое поведение указывает на стремление придать IBI более легитимный имидж путем включения аутентичного контента».

Наряду со статьями, сайт IBI включает отчеты о суверенитете различных стран. Большинство отчетов, которые не были сгенерированы ИИ, включали критику западных стран. По словам OpenAI, существуют онлайн-свидетельства того, что лица в Израиле упоминали или представляли IBI в статьях, которые они передавали для публикации, и на конференциях, в которых они участвовали. «Мы не можем определить, каковы отношения между этими лицами, IBI и операторами в России», — заявила компания.

Несмотря на это, OpenAI оценивает, что влияние кампании было ограниченным: опубликованные посты набрали небольшое количество просмотров, а у учетных записей IBI было небольшое число подписчиков. Telegram-каналы кампании насчитывали от 10 000 до 20 000 подписчиков.

«Важность кампании заключается не столько в аудитории, до которой она дошла, сколько в инфраструктуре, которую она построила», — говорится в сообщении. «В то время как операторы использовали ChatGPT только для генерации отдельных постов, эти посты направляли на надежно выглядящий институт с якобы экспертами, переизданными академическими работами и якобы уникальным индексом. Это иллюстрирует, как субъекты влияния могут использовать ИИ в качестве вспомогательного инструмента в рамках более широких усилий по созданию авторитета, размыванию происхождения предпочтительных нарративов и созданию активов, масштаб которых можно будет расширять с течением времени».