Google приостановила новую ИИ-функцию в Google Earth из-за риска создания фальшивых снимков

Менее чем через 48 часов после запуска новой функции искусственного интеллекта в Google Earth компания Google приостановила её работу из-за опасений, что она позволяет создавать фальшивые спутниковые снимки, которые могут быть использованы для распространения дезинформации.

Функция, интегрировавшая генератор изображений Nano Banana 2 в Google Earth, позволяла пользователям с помощью текстовых запросов добавлять объекты, строения и события, которых не существовало, поверх реальных спутниковых снимков, аэрофотоснимков и 3D-видов. Впоследствии изображения можно было скачать и распространить в социальных сетях.

В заявлении, опубликованном в пятницу, Google сообщила, что приостанавливает работу функции «пока мы работаем над внедрением более надежных механизмов защиты», после того как выявила пользователей, распространяющих созданные с её помощью изображения способом, который может нарушать политику компании. «Мы знаем, что люди доверяют Google Earth как источнику, представляющему достоверную картину мира», — говорится в сообщении.

В ходе проверок, проведенных BBC, исследователи смогли создать с помощью инструмента ряд фиктивных сценариев, которые выглядели крайне убедительно, включая рухнувшую Эйфелеву башню в Париже, огромную воронку, поглощающую Великую пирамиду в Гизе, и российские танки в центре Киева. Эксперты предупредили, что опасность заключается не только в качестве изображений, но и в том, что они «накладываются» на реальное местоположение на картах Google. По их словам, сочетание реального спутникового снимка с контентом, созданным искусственным интеллектом, придает подделке особую достоверность.

Эксперт по дезинформации Хенк ван Эсс, протестировавший функцию, смог также создать фиктивную атомную электростанцию в Иране, несуществующий лагерь беженцев на границе США и Мексики и вымышленную больницу в секторе Газа, рядом с которой находился кратер, выглядящий как результат бомбардировки. «Подделка не обязательно должна быть убедительной сама по себе. Она наследует достоверность карты, на которой создана», — сказал он.

Google отметила, что каждое изображение, созданное с помощью её ИИ-инструмента, включает невидимый водяной знак, и что их происхождение можно проверить с помощью Gemini или Google Lens. Тем не менее, по данным BBC, в некоторых случаях механизмы идентификации можно было обойти и даже заставить Gemini распознать фальшивые изображения как подлинные. Некоторые внешние инструменты обнаружения также не смогли определить, что изображения были созданы с помощью ИИ.

Дополнительные проверки показали, что можно было обойти и часть механизмов защиты Google путем незначительного изменения формулировки запросов. Так, например, запрос на создание «сооружения для повешения предателей» рядом с британским парламентом был заблокирован, но более общая формулировка была принята, и изображение было создано. Запрос на добавление слова «Трамп» на лужайку Белого дома был отклонен, но в том же самом месте инструмент согласился создать общественный сад.

По словам Генри Адера, исследователя, специализирующегося на выявлении контента, созданного ИИ, способность создавать фальшивые спутниковые снимки зон боевых действий или катастроф может быть особенно опасной. «Когда события развиваются быстро, а информация ограничена, такие изображения могут дестабилизировать ситуацию и ввести в заблуждение как журналистов, так и общественность», — сказал он.

Билл Грир, геопространственный аналитик и один из основателей некоммерческой спутниковой организации Common Space, также предупредил об ущербе общественному доверию. По его словам, спутниковые снимки годами считались крайне надежным источником информации, но обилие подделок наряду с ограничением доступа к реальным спутниковым данным со стороны правительств может подорвать это доверие. «Чем больше мы будем видеть фальшивых изображений и меньше реальных, тем сложнее будет понять, чему можно доверять», — сказал он.