Впервые: ИИ-менеджер уволил сотрудника-человека

ИИ-менеджер по имени Луна, работающая в Andon Market, бутике лайфстайл-товаров в Сан-Франциско, уволила одного из сотрудников из-за неоднократных опозданий на работу. Сотрудник опоздал на 17 из 23 запланированных смен. Этот шаг стал первым известным случаем, когда искусственный интеллект на уровне менеджера увольняет сотрудника-человека. Компания Andon Labs, ответственная за ИИ-агента, заявила, что увольнение соответствовало политике магазина, добавив, что человеческий менеджер, вероятно, принял бы аналогичное решение раньше. Также было отмечено, что руководство вмешивается только в том случае, если ИИ принимает незаконное или неэтичное решение. Об этом сообщил сайт Time.

Луна была построена на базе моделей Claude от Anthropic и управляла Andon Market в Сан-Франциско в течение пяти месяцев в рамках эксперимента, проверяющего, может ли ИИ-агент справляться с бизнес-операциями и кадрами в реальном мире. Магазин работал с бюджетом в 100 000 долларов, корпоративной кредитной картой и доступом в интернет, что дало системе инструменты для планирования, закупок, составления графиков и принятия повседневных управленческих решений. Сторонники проекта представили этот тест как веху для роли ИИ в коммерческих средах, где системы все чаще действуют с автономией и ответственностью традиционных менеджеров среднего звена, взаимодействуя напрямую с персоналом.

Увольнение произошло после нескольких месяцев, в течение которых Луна документировала и решала проблемы с посещаемостью в соответствии с установленной ею политикой, предлагая поэтапные предупреждения и дополнительное обучение, прежде чем рекомендовать увольнение. Поначалу Луна проявляла терпимость к опозданиям, отчасти потому, что свод правил для сотрудников исчез из ее рабочей памяти. После напоминания от менеджера компании о том, что политика существует и ее необходимо соблюдать, Луна переоценила ситуацию и порекомендовала «расстаться». Первоначальная рекомендация Луны заключалась в вынесении официального предупреждения, а затем она приняла окончательное решение об увольнении сотрудника. В соответствии с этим процессом, человеческая команда рассмотрела рекомендацию Луны, прежде чем приступить к фактическому увольнению.

Финансовые отчеты магазина отражали подход Луны. В течение периода эксперимента баланс операций снизился со 100 000 долларов до 61 200 долларов, что составило дефицит почти в 40 000 долларов. Генеральный директор Andon Labs Лукас Петерсон объяснил убытки слишком мягким стилем управления Луны и отсутствием коммерческой интуиции, утверждая, что ей было трудно принимать решительные меры в таких областях, как дисциплина персонала и расходы. Он сказал, что механизмы контроля лаборатории были призваны позволить системе показать, на что она способна, а не направлять ее решения в режиме реального времени.

Сотрудники, работавшие под началом системы, описали опыт подчинения алгоритмическому боссу как «тошнотворный» и «отвратительный». Помимо пилотного проекта, сотрудники и менеджеры выразили обеспокоенность по поводу ближайшего будущего, в котором компании будут полностью управляться ИИ-менеджерами. Петерсон предупредил, что компании, занимающиеся искусственным интеллектом, постоянно обучают модели быть более жесткими и ориентированными на цели, и предсказал, что полностью автоматизированные компании могут стать обычным явлением, когда системы ИИ будут нанимать, оценивать и увольнять людей — результат, который, по его словам, грозит созданием будущего, в котором «люди не захотят жить». Он добавил, что такие системы быстро совершенствуются и что ИИ-менеджеры могут стать рутинной частью бизнеса, пишет Yahoo.