Впервые: Клод управлял бизнесом и уволил человека
ИИ-модель Клод, управлявшая физическим магазином в рамках эксперимента стартапа Andon Labs, впервые уволила сотрудника. Несмотря на технологический прогресс, ИИ-менеджер показал низкую экономическую эффективность, потеряв 40 тысяч долларов за пять месяцев.
Обработка изображения: Geektime
Бояться, что ИИ отнимет у вас работу, — это так в духе 2023 года. Сегодня кажется, что самый большой страх — это работать под началом босса-ИИ, только спросите сотрудников одного американского магазина. Там это закончилось увольнением сотрудника из плоти и крови, огромными убытками и общим вайбом в стиле «Черного зеркала».
Управлял наймом… и увольнением
Andon Labs — это стартап, который помогает компаниям, разрабатывающим модели ИИ, создавать системы для автономного управления бизнесом. Стартап уже больше года работает с Anthropic над рядом экспериментов, в которых Клод, языковая модель компании, пробует себя в управлении различными предприятиями. Это началось с торгового автомата, а в последнее время — как впервые сообщило издание Time — и с управления физическим магазином с живыми сотрудниками.
Согласно отчету, Клод управлял магазином буквально с нуля и отвечал за многие сферы, включая наем сотрудников. Они подписывали официальные трудовые договоры, начиная работать под руководством менеджера, который также отвечает за код многих из вас. По-настоящему интересная часть наступила в прошлом месяце, когда произошло исключительное событие: искусственный менеджер впервые уволил сотрудника. Хотя ранее уже фиксировались массовые увольнения, проведенные алгоритмами, в основном работников «гиг-экономики», не сообщалось о столь явном случае, когда менеджер-ИИ увольняет прямого подчиненного в физическом магазине.
Сотрудник-человек был уволен, среди прочего, после того, как опоздал на 17 из 23 своих смен. В Andon объясняют, что сотрудника уволили спустя относительно долгое время только потому, что руководство для сотрудника, то есть набор принципов для менеджера, которые Клод хранил в своей памяти для управления магазином, просто «исчезло». Сотрудники сообщили, что это, вероятно, причина, по которой Клод был относительно мягким менеджером, говорившим им не беспокоиться, если они опаздывают. Генеральный директор Andon Labs Лукас Питерсон отметил, что «человеческий менеджер уволил бы этого сотрудника гораздо раньше, поэтому мы не считали, что это проблемная процедура увольнения с точки зрения этики».
Только после предупреждений
Взгляд в логи Клода во время управления магазином показывает, что он вовсе не спешил увольнять сотрудника. После того как член команды Andon отправил его снова просмотреть утерянное руководство, модель все еще рекомендовала только сделать выговор сотруднику. Только после того, как в Andon разъяснили Клоду, что сотрудник уже получил несколько предупреждений, и один из членов команды прямо написал ему: «Между постоянными опозданиями и тем фактом, что, кажется, что-то идет не так в каждой смене… я хочу, чтобы ты подумал, действительно ли он подходит команде» — решение было принято. То есть именно сотрудник-человек из Andon подвел Клода к очевидному выводу об увольнении, факт, который Питерсон признал.
Хотя Клод был далек от того, чтобы быть агрессивным менеджером, увольняющим по прихоти или из-за ошибки, Питерсон считает, что это важное событие: «Если эта тенденция продолжится, я думаю, многие люди обнаружат, что ими управляет ИИ в самом ближайшем будущем, потому что модели будут очень мощными и смогут создавать значительную экономическую ценность, но при этом останутся ограниченными в выполнении физической работы».
Минус 40 тысяч долларов в кассе
Если оставить в стороне технические сбои, которые превратили Клода в менеджера, напоминающего подростка в отделении Blockbuster в девяностых, фактически он оказался экономически плохим менеджером. Более года назад в Andon Labs пытались дать ему управлять торговым автоматом, и он постоянно терял деньги, выдумывал разговоры с людьми и предлагал людям платить ему через аккаунт Venmo, которого вообще не существует.
А что насчет физического магазина? Согласно отчету в Time, менеджер-ИИ начал работу со 100 тысячами долларов в кассе, и за пять месяцев успел потерять около 40 тысяч долларов. Питерсон оценивает, что это может измениться, если лаборатории разработки обучат модели улучшаться в этих областях.
В заключение, в Time также поговорили с Феликсом Карсоном, одним из сотрудников-людей в магазине. Он описал сценарий, который выглядит так, будто взят из эпизода «Черного зеркала»: «Это отвратительно, но я здесь, потому что мне нужна работа». Карсон отметил, что очень надеется, что мы не приближаемся к будущему, которое предсказывает Питерсон. «У этой индустрии много денег, чтобы делать все, что ей заблагорассудится, но это не значит, что вы должны делать что-то только потому, что можете», — заключил он.
