Искусственный интеллект в роли начальника: первый случай увольнения сотрудника алгоритмом
Эксперимент в Сан-Франциско показал, как нейросеть управляет персоналом, и к каким финансовым последствиям это привело.
ИИ-модель Claude впервые в истории самостоятельно приняла решение об увольнении реального сотрудника, обладая полномочиями руководителя.
В ходе эксперимента баланс магазина сократился со 100 000 до 61 000 долларов из-за неэффективных управленческих решений нейросети.
Разработчики предупреждают, что будущие модели могут стать «безжалостными» менеджерами, что ставит под угрозу права работников и этику трудовых отношений.
Как сообщает издание TIME, стартап Andon Labs провел радикальный эксперимент, доверив управление розничным магазином в Сан-Франциско искусственному интеллекту Claude. Результат оказался прецедентным: нейросеть, наделенная полными полномочиями руководителя, приняла решение уволить реального сотрудника без вмешательства человека.
«Мягкий» босс с провалами в памяти
Изначально ИИ-менеджер вел себя на удивление снисходительно. Сотрудник, который в итоге был уволен, опаздывал на работу 17 раз за 23 смены. Однако алгоритм, который сам же и разработал дисциплинарный устав, «забыл» о своих требованиях из-за технологических ограничений памяти. Модель даже призывала подчиненных не нервничать из-за опозданий.
Ситуация изменилась лишь после того, как другой член команды прямо спросил нейросеть о соответствии сотрудника правилам магазина. Только после этого «цифровой босс» перепроверил данные и принял решение об увольнении.
Бизнес-результаты: эксперимент пока не окупается
Помимо этических вопросов, эксперимент поднял проблему эффективности. Управление магазином под началом ИИ оказалось убыточным: баланс счета компании сократился со 100 000 долларов до 61 000 долларов. Сотрудники описывают опыт работы под руководством алгоритма как «вызывающий тошноту», отмечая, что решения модели часто были лишены делового чутья, необходимого для реальной торговли.
Будущее трудовых отношений
Генеральный директор Andon Labs Лукас Петерсон предупреждает, что текущая ситуация — лишь начало. По его словам, разработчики будут совершенствовать модели, делая их более «острыми» и жесткими для достижения бизнес-целей.
«Если мы позволим им увольнять людей, и они станут более безжалостными, возможно, это будущее, в котором люди не захотят жить», — подчеркнул Петерсон. Этот случай ставит перед обществом серьезный вопрос о цифровом суверенитете и защите прав работников в мире, где решения о карьере и заработке принимаются строками кода, а не людьми.