Grammarly столкнулась с коллективным иском из-за функции ИИ Expert Review

Компания-разработчик программного обеспечения для письма Grammarly столкнулась с коллективным иском из-за функции искусственного интеллекта под названием Expert Review, которая представляла пользователям предложения по редактированию так, будто они были даны известными писателями, журналистами и учеными — без получения на то их разрешения. Согласно сообщению в журнале WIRED, компания уже приняла решение отключить эту функцию после резкой общественной критики, однако судебный процесс против нее уже начался.

Иск был подан в федеральный суд Южного округа Нью-Йорка, и журналист-расследователь Джулия Ангвин является единственным истцом, упомянутым в документе по имени. Ангвин, основательница новостной организации The Markup и автор колонок в New York Times, утверждает, что Grammarly и ее материнская компания Superhuman использовали имена и личности сотен профессионалов, журналистов, писателей и редакторов для продвижения своих продуктов и получения прибыли.

Согласно исковому заявлению, общий ущерб для группы потенциальных истцов может превысить порог в пять миллионов долларов, хотя точная сумма компенсации не определена. Среди имен, фигурировавших в функции, были также писатель в жанре ужасов Стивен Кинг и астрофизик и популяризатор науки Нил Деграсс Тайсон, наряду со многими другими представителями СМИ.

Функция Expert Review была представлена как часть пакета инструментов на базе ИИ (искусственного интеллекта), добавленного на платформу в прошлом году. Система позволяла пользователям получать критику написанных ими текстов якобы с точки зрения опытного автора или известного эксперта — будь то живой человек или известная общественная фигура. Несмотря на наличие пояснения, что эти люди не участвовали в разработке инструмента и не одобряли использование своего имени, многие из них выразили возмущение самим фактом использования их личности.

По словам адвоката Ангвин, Питера Ромера-Фридмана, законы штатов Нью-Йорк и Калифорния, где базируется компания, запрещают коммерческое использование имени или образа человека без его согласия. По его словам, это относительно ясный судебный случай. Помимо юридического аспекта, он заявил, что иск отражает более широкое явление, когда профессионалы вкладывают годы в развитие своей репутации и навыков, но технологические компании эксплуатируют их имена и труд без разрешения.

Сама Ангвин рассказала, что была удивлена, обнаружив свое имя в этой функции после того, как прочитала об этом в технологическом бюллетене Platformer. По ее словам, она и представить не могла, что окажется в такой ситуации. «Обычно о дипфейках думают в контексте знаменитостей, а не обычных журналистов», — сказала она.

Проблема для нее заключалась не только в использовании ее имени, но и в качестве рекомендаций, которые система выдавала от ее имени. По ее словам, некоторые советы, которые функция предлагала пользователям, напротив, вредили качеству письма. В одном из случаев, рассказала она, система рекомендовала превратить простое и понятное предложение в более длинное и сложное, что, по ее словам, только затруднило чтение.

Вследствие общественной критики компания решила отключить функцию. Илиан Ган, директор по управлению продуктами в Superhuman, заявила, что компания пересмотрит инструмент и изменит его дизайн так, чтобы дать экспертам реальный контроль над тем, как они представлены, или возможность не фигурировать вовсе.

Генеральный директор Superhuman Шишир Мехротра отверг юридические претензии и заявил, что компания будет защищаться от иска. Тем не менее, он отметил, что компания уже работает над новым подходом, который интегрирует экспертов в платформу таким образом, чтобы обеспечить большую ценность как для пользователей, так и для самих экспертов.

По его словам, критика, прозвучавшая в последние недели со стороны профессионалов, была в определенной степени оправданной, особенно в связи с опасениями, что система представляет голоса экспертов таким образом, который их не отражает. По его словам, общественная критика является частью процесса, улучшающего продукты, и компания относится к ней серьезно.