Google открыла публичный доступ к инструменту SynthID Detector для поиска ИИ-контента
Компания Google открыла бесплатный доступ к веб-инструменту SynthID Detector для распознавания изображений, видео и аудио, созданных с помощью искусственного интеллекта.
Компания Google открыла публичный доступ к SynthID Detector — бесплатному веб-инструменту, предназначенному для распознавания контента, созданного или отредактированного с помощью искусственного интеллекта. Согласно заявлению компании, сервис способен фиксировать изображения, видеозаписи и аудиофрагменты, сгенерированные с использованием ИИ-моделей от Google, OpenAI, Nvidia и Kakao. Использование инструмента является бесплатным, однако для работы с ним требуется авторизация через учетную запись Google, OpenAI или Apple.
Новый сайт стал одним из первых детекторов, способных распознавать графику, созданную с помощью функций искусственного интеллекта от Apple, таких как Image Playground. В компании отметили, что поддержка изображений, созданных и отредактированных с помощью Apple Intelligence, появится в ближайшее время.
Доступность и возможности
Разработка SynthID Detector велась более года, в течение которого предварительные версии были доступны ограниченному кругу лиц, включая журналистов. Теперь любой желающий может перейти на сайт synthid.com и проверить конкретный файл на наличие цифрового водяного знака SynthID. Хотя корпорация уже интегрировала обнаружение водяных знаков и стандартов C2PA в такие функции, как Circle to Search и приложение Gemini, создание специализированного веб-сайта делает проверку значительно более доступной для широкой аудитории.
"Создание универсального инструмента для проверки подлинности контента требует широкого сотрудничества между технологическими гигантами, к чему компания стремится на протяжении длительного времени."
Технические ограничения
Несмотря на запуск открытого доступа, проверка медиафайлов, созданных с помощью нейросетей, по-прежнему имеет ряд существенных ограничений. SynthID Detector не способен распознавать абсолютно весь синтетический контент, поскольку различные компании применяют собственные стандарты маркировки. В частности, видеоролики, созданные с помощью популярных алгоритмов, могут не распознаваться системой.
Кроме того, в определенных случаях водяные знаки можно удалить, а инструмент Google не разделяет материалы, созданные нейросетью с нуля, и контент, подвергшийся лишь частичной цифровой обработке. Эксперты подчеркивают, что сервис фиксирует наличие водяных знаков, а не определяет общую достоверность или правдивость представленной информации.
