Прецедент: компания доверила ИИ управление бизнесом — и он уволил сотрудника
Первый в своем роде эксперимент в сфере занятости дает тревожное представление о будущем трудовых отношений в эпоху искусственного интеллекта. Согласно эксклюзивному расследованию журнала TIME, исследовательский стартап Andon Labs доверил текущее управление розничным магазином в Сан-Франциско под названием Andon Market ИИ-агенту, основанному на модели Claude компании Anthropic. Модель, получившая полные управленческие полномочия над реальными людьми с официальными трудовыми договорами, приняла прецедентное решение уволить одного из членов команды.
Первый в своем роде эксперимент в сфере занятости дает тревожное представление о будущем трудовых отношений в эпоху искусственного интеллекта. Согласно эксклюзивному расследованию журнала TIME, исследовательский стартап Andon Labs доверил текущее управление розничным магазином в Сан-Франциско под названием Andon Market ИИ-агенту, основанному на модели Claude компании Anthropic. Модель, получившая полные управленческие полномочия над реальными людьми с официальными трудовыми договорами, приняла прецедентное решение уволить одного из членов команды.
Милосердный менеджер, забывающий устав
Уволенный сотрудник опоздал 17 раз за 23 смены. Как ни странно, из обнародованных журналов управления следует, что ИИ-модель оказалась на удивление мягким и снисходительным руководителем, который даже призывал сотрудников «не нервничать» из-за опозданий. Причиной этого стало технологическое ограничение памяти: устав дисциплины, который модель составила сама, просто стерся из ее рабочей памяти. Только после того, как человек из команды попросил ее перепроверить устав и задал наводящие вопросы о соответствии сотрудника, Claude принял окончательное решение об увольнении.
Сотрудники магазина рисуют сложную картину работы под началом цифрового босса. Феликс Карсон, сотрудник магазина, описал этот опыт как вызывающий тошноту, но признал, что ему нужен заработок. В то же время бизнес-эксперимент далек от доказательства прибыльности: баланс счета магазина упал со 100 000 долларов в начале пути до всего лишь 61 000 долларов, отчасти из-за управленческих решений модели, лишенных делового чутья.
Угрожающее будущее мира труда
Генеральный директор Andon Labs Лукас Петерсон предупреждает, что текущая ситуация может быстро измениться. По его словам, подобно тому, как компании, занимающиеся искусственным интеллектом, улучшили модели в написании кода, они обучат их становиться более острыми и даже более жестокими менеджерами для достижения жестких бизнес-целей.
«Если мы позволим им увольнять людей, и они станут более безжалостными, возможно, это будущее, в котором люди не захотят жить», — подчеркнул Петерсон.
В то время как в прошлом фиксировались случаи автоматических увольнений в приложениях для доставки с помощью сухих алгоритмов, здесь речь идет о первом случае, когда большая языковая модель приняла решение на основе суждения и уволила сотрудника без вмешательства человека. Прецедент в Сан-Франциско ставит большой знак вопроса вокруг цифрового суверенитета и защиты прав работников в мире, где строка прибыли будет управляться строками кода.
