Википедия ограничивает использование ИИ при написании статей
Крупнейшая в мире онлайн-энциклопедия вводит новые правила, ограничивающие применение генеративного искусственного интеллекта для создания и редактирования контента. Решение принято из-за опасений по поводу достоверности информации и точности данных, которые предоставляют языковые модели.
Википедия объявила о значительном изменении редакционной политики: отныне использование генеративного искусственного интеллекта (ИИ) для написания или существенного переписывания статей ограничено. Решение принято на фоне растущих опасений, что системы, основанные на языковых моделях, могут генерировать контент, не соответствующий строгим стандартам достоверности энциклопедии.
Согласно новым правилам, системы ИИ склонны к «галлюцинациям», искажению смысла текстов и представлению информации, не подкрепленной авторитетными источниками. В связи с этим Википедия постановляет, что следует избегать использования нейросетей для создания нового контента или глубокого редактирования существующих материалов.
Вместе с тем, политика не исключает использование технологий полностью. Редакторам разрешено прибегать к помощи ИИ-инструментов для стилистической правки, но только при условии, что итоговый текст проходит тщательную проверку человеком для подтверждения фактов. Также допускается использование систем автоматического перевода, если редактор владеет обоими языками и способен самостоятельно выявить ошибки или неточности.
Один из администраторов сообщества отметил, что этот шаг направлен на стимулирование широкой дискуссии о месте ИИ на информационных платформах. По его словам, это решение может подтолкнуть другие языковые сообщества к пересмотру границ использования технологий и их влияния на качество контента.
Важно учитывать, что Википедия не является централизованной структурой, и каждая языковая версия управляется автономно. Это означает, что политика в отношении ИИ может различаться: например, в испанской Википедии уже принято более строгое решение, полностью запрещающее использование языковых моделей даже для стилистической правки или перевода.
«Главной проблемой остается правоприменение. Идентификация контента, созданного с помощью ИИ, все еще не является абсолютно точной, поэтому существует вероятность, что такие тексты продолжат появляться в статьях, особенно в тех, которые не находятся под постоянным контролем активных редакторов.»
На текущий момент основной задачей сообщества остается разработка механизмов контроля, которые позволят поддерживать высокие стандарты энциклопедической точности в эпоху повсеместного внедрения нейросетей.
