Иранская сеть ботов разоблачена: нелепая ошибка выдала инструкции для ИИ

Глупый «бот-задание» в Тегеране: техническая неисправность в официальном Telegram-канале Корпуса стражей исламской революции на иврите обнажила механизмы иранской психологической войны. Операторы по ошибке опубликовали команды для искусственного интеллекта вместо самого поста.

Раскрытая информация демонстрирует работу организации, которая пытается скрыть свою иностранную принадлежность, но терпит неудачу из-за ошибок в управлении социальными сетями. Выяснилось, что иранцы используют промышленный конвейер контента, где компьютер получает строгие инструкции о том, как имитировать израильский стиль и вычищать признаки, выдающие происхождение текста из подвалов разведки Тегерана.

Опубликованный по ошибке пост начинался с заголовка «Бот-задание, только перевод на иврит». Это свидетельствует о том, что операторы не пишут контент самостоятельно, а полагаются на языковые модели. Первый этап, заданный для бота, назывался «очистка»: от машины требовалось удалить хэштеги, идентификаторы, ссылки и эмодзи.

По всей видимости, иранцы опасаются, что израильский читатель распознает цифровые паттерны, не принятые в местном дискурсе, поэтому стремятся создавать максимально «стерильный» текст. Инструкция удалять эмодзи показывает непонимание израильской цифровой культуры, где их чрезмерное или неуместное использование часто является признаком иностранного бота.

На втором этапе боту требовалось проверить, содержит ли текст рекламу или неновостную информацию. В таком случае боту было поручено просто выдать слово «нет». Это свидетельствует о роботизированном уровне работы системы, где нет места творчеству, а есть лишь сухие протоколы. Однако самая большая ошибка произошла из-за человеческого фактора: оператор, который должен был скопировать конечный результат, вставил весь диалог с инструкциями на глазах у 1 807 подписчиков канала.

При изучении «важных правил», заданных для бота, видна тревога иранцев перед разоблачением. Первая команда требовала, чтобы результат был на 100% на иврите, а второе правило прямо запрещало использовать персидские или английские слова.

Также боту было запрещено добавлять объяснения, аналитику или дополнительные предложения помимо точного перевода. Иранцы понимают, что любая попытка интерпретировать израильскую реальность закончится лингвистическим или культурным провалом, поэтому предпочитают, чтобы бот просто переводил существующие известия. Кульминацией инцидента стал контент, который боту было предложено перевести: Корпус стражей исламской революции инвестировал киберресурсы в новость об отмене государственных экзаменов для средней школы.

Новость должна была касаться того, что экзамены начнутся 9 июня, и иранцы надеялись выглядеть как актуальное новостное издание, вовлеченное в повседневную жизнь Израиля. Вместо того чтобы вызвать панику, они спровоцировали волну насмешек в социальных сетях. Израильские пользователи, обнаружившие ошибку, высмеяли промпт (команду для ИИ), который подтвердил попытку создания автоматизированного конвейера контента, значительная часть которого является ложной.