OpenAI добавляет невидимые водяные знаки для текстов в Евросоюзе
OpenAI внедряет невидимые цифровые водяные знаки для текстов ChatGPT в странах ЕС в соответствии с требованиями нового закона об искусственном интеллекте.
Компания OpenAI объявила о внедрении системы невидимых цифровых водяных знаков для текстов, генерируемых языковыми моделями ChatGPT и Codex на территории Европейского союза. Данная мера принята в рамках выполнения требований нового европейского закона об искусственном интеллекте, который обязывает технологических гигантов обеспечивать прозрачность генерируемого контента.
Технология невидимых сигналов
Новый инструмент базируется на технологии textGrain, которая работает по принципу внедрения скрытых статистических сигналов в процесс выбора слов нейросетью. Во время генерации текста модель использует особый алгоритмический ключ, заставляющий её предпочитать определенные синонимы или конструкции другим. Возникающие в результате закономерности неразличимы человеческим глазом, но могут быть распознаны специализированными детекторами.
«Система опирается на статистические паттерны, встроенные непосредственно в процесс генерации текста, однако ручное редактирование и замена синонимов могут существенно снизить точность распознавания», — поясняют разработчики из OpenAI.
Ограничения и точность метода
В компании открыто признают, что технология пока не обеспечивает стопроцентной точности. Эффективность детекции напрямую зависит от объема текста и его тематики. В гуманитарных дисциплинах, например в текстах по психологии, алгоритм успешно выявил водяные знаки в 80% абзацев длиной 200 токенов и в 95% для абзацев из 400 токенов. В то же время математические и технические тексты оставляют модели меньше вариативности в выборе лексики, что снижает показатели распознавания. Кроме того, если пользователь вручную заменит всего 10% слов на синонимы, процент успешного определения падает с 92% до 66%, а при замене 25% слов падение достигает 17%. На данном этапе нововведение развертывается исключительно в странах ЕС.
