OpenAI разоблачила иранскую сеть влияния, использовавшую ИИ в СМИ
OpenAI раскрыла и заблокировала иранскую сеть влияния, которая использовала ChatGPT и фальшивых журналистов для публикации 100 статей в мировых СМИ.
Компания OpenAI заблокировала крупную сеть влияния, которая действовала из Ирана и сумела внедрить около 100 статей в зарубежные СМИ с помощью вымышленных журналистов и искусственного интеллекта. Об этом стало известно из опубликованного отчета компании.
Использование ChatGPT для дезинформации
Согласно данным OpenAI, операторы сети использовали ChatGPT для редактирования текстов, критикующих американскую политику, составления питчей для редакций и генерации комментариев в социальных сетях. Целью ботов было создание видимости того, что материалы пишутся реальными американскими пользователями.
Около дюжины зарубежных медиа опубликовали материалы, отправленные от имени семи фиктивных журналистов. Организаторы обращались к чат-боту на персидском языке, чтобы улучшить формулировки и продвигать нужные антизападные нарративы.
Реакция СМИ и экспертов
Среди выявленных заголовков были материалы, ставящие под сомнение внешнеполитический курс США и моральную устойчивость Запада. Хотя ведущие американские издания не пострадали, статьи появились на платформах со значительной аудиторией в соцсетях, таких как лондонский Middle East Monitor и калифорнийский LA Progressive.
«Поразительно, что иранцам удалось внедрить свой контент в реальные СМИ, тем самым расширив охват своей кампании», — отметила Джессика Брандт, бывший руководитель американского центра по борьбе с вредоносным иностранным влиянием.
В отчете подчеркивается, что после публикации статей сеть задействовала ИИ для написания комментариев, изображающих США агрессором, а Иран — стойкой жертвой. Точных доказательств прямой связи организаторов с правительством Ирана обнаружить не удалось.