OpenAI внедряет невидимые водяные знаки для пользователей в Евросоюзе

Компания OpenAI объявила о внедрении невидимых водяных знаков в тексты, создаваемые ее моделями для пользователей в Европейском союзе. Этот шаг предпринимается в соответствии с требованиями Закона об искусственном интеллекте ЕС, который обязывает четко маркировать контент, сгенерированный алгоритмами.

Технические особенности технологии textGrain

Водяные знаки будут добавлены в ChatGPT и Codex в странах ЕС по умолчанию в ближайшие недели. Клиенты API по всему миру смогут самостоятельно выбирать, активировать ли эту функцию. По заявлению OpenAI, технология маркировки под названием textGrain работает путем добавления невидимого статистического сигнала в выбор слов модели.

В ходе наших тестов textGrain продемонстрировала производительность, равную или превосходящую другие подходы, которые мы оценивали, — отметили в компании.

Ограничения и точность распознавания

Тем не менее, в компании отмечают ряд сценариев на практике, которые могут снизить эффективность метода, приведя к ложноположительным или ложноотрицательным результатам.

• Короткие тексты значительно труднее поддаются надежному распознаванию.

• Математический контент показывает более низкие показатели детекции из-за меньшей гибкости в выборе слов.

• Замена 25% слов синонимами снижает показатель распознавания до 17%.

Из-за указанных ограничений компания решила предоставить первоначальный доступ к инструменту детекции только исследователям и авторизованным организациям.