Работает 24/7 без зарплаты: компания клонировала сотрудника с помощью AI — и вызвала скандал
Китайская гейминговая компания создала AI-двойника бывшего сотрудника, который работает без остановки, и вызвала бурю негодования. Комментаторы в сети назвали этот шаг «цифровым выжиманием из костей», эксперты по праву предупредили, что обучение искусственного интеллекта на данных сотрудника без отдельного разрешения может быть незаконным, а правозащитники задались вопросом, является ли согласие сотрудника на такой эксперимент когда-либо по-настоящему свободным.
Буря разразилась в Китае после эксперимента гейминговой компании, которая запустила сотрудника на базе искусственного интеллекта, работающего круглосуточно. Система основана на данных бывшего специалиста по человеческим ресурсам, известного как «Сяо Юй», который согласился на использование своего цифрового образа в рамках внутреннего эксперимента. Цифровой двойник предназначен для выполнения базовых задач на рабочем месте — консультирования, рассылки приглашений, создания простых презентаций и таблиц данных. Сам бывший сотрудник описал идею как «довольно забавную», а компания подчеркнула, что инструмент ограничен базовыми командами и все еще громоздок для использования в реальных рабочих условиях.
Тем не менее, сам факт создания «человека на базе искусственного интеллекта» вызвал волну общественной реакции. В социальных сетях некоторые комментаторы утверждали, что этот шаг стирает грань между человеком и рабочим инструментом и даже поощряет дальнейшую объективацию работников. Другие увидели в проекте раннее проявление идеи «кибер-бессмертия», при которой профессиональные характеристики человека продолжают существовать даже после того, как он покинул организацию. Параллельно возникли вопросы о праве компании извлекать экономическую выгоду из накопленных знаний и личных данных сотрудника, даже если было дано первоначальное согласие на эксперимент.
Китайская экономическая газета Securities Times представила этот случай как часть более широкой тенденции разработки «AI-сотрудников», предназначенных для сохранения организационных знаний даже после ухода работников. Согласно публикации, система была обучена на основе профессионального контента, созданного в ходе работы сотрудницы, включая рабочие взаимодействия и внутренние документы. Многие критики утверждали, что если система искусственного интеллекта обучается на основе стиля работы, общения и результатов деятельности конкретного человека, следует рассмотреть модели роялти или постоянной компенсации за коммерческое использование этих характеристик. Сама возможность настройки цифрового двойника под предпочтения пользователя с помощью субъективных описаний бывших коллег усилила опасения, что работники сводятся к «функциональным модулям», подлежащим копированию. Одно из критических описаний в сети назвало этот шаг «цифровым выжиманием из костей» — выражение, иллюстрирующее тревогу перед размыванием границ между профессиональной идентичностью и технологическим активом.
Эксперты в области права подчеркнули, что данные, связанные с поведением и личным общением сотрудников — включая сообщения в чатах, электронную почту и рабочие привычки — определяются как личная информация согласно закону о защите личной информации. Таким образом, их использование для обучения систем искусственного интеллекта без явного согласия может являться нарушением прав. Даже когда данные были созданы в рамках работы, это не дает компании автоматического права тиражировать систему, отражающую личность или стиль конкретного сотрудника, без отдельного и оплачиваемого разрешения. Предлагаемые меры управления услугами «цифрового человека» и временные меры по управлению услугами генеративного искусственного интеллекта подчеркивают необходимость однозначного согласия на обучение и использование таких образов.
Исследователи труда и активисты по правам работников отмечают, что расстановка сил на рабочем месте может усложнить понятие согласия. Работники могут опасаться профессиональных последствий, ущерба репутации или связям в отрасли, если откажутся участвовать в подобных инициативах. Более того, сама идея того, что цифровая версия человека продолжает действовать на его бывшем месте работы, вызывает психологический дискомфорт у многих. Кроме того, возникли вопросы ответственности: ошибки цифрового двойника, идентифицируемого с конкретным человеком, могут нанести вред его репутации и поднять юридические вопросы о личности ответственного.
Дискуссия не ограничивается конкретным экспериментом. Агенты искусственного интеллекта, способные непрерывно управлять компьютерами и выполнять рутинные задачи, привлекают широкое внимание в Китае, где они воспринимаются как имеющие потенциал для повышения продуктивности, но также и как источник опасений в области информационной безопасности и утечки личных или финансовых данных. В китайском освещении также упоминалось, что специалисты рекомендуют включать в трудовые договоры пункты, обязывающие удалять данные о личных характеристиках по окончании найма или, в качестве альтернативы, получать отдельное и оплачиваемое разрешение на их использование в будущем.
