ИИ-агент Luna уволил сотрудника после вмешательства исследователей

☕️ИИ-босс впервые уволил живого сотрудника ⚡️Это эксперимент компании Andon Labs в Сан-Франциско, где настоящим магазином уже несколько месяцев управляет ИИ-агент Luna на базе нейросети Claude. Искусственный интеллект, который сам искал помещение, нанимал людей через LinkedIn и раздавал зарплаты, впервые вынес кадровое решение об увольнении живого сотрудника. 😑Claude оказался самым мягкотелым боссом на свете:

🟦Он прощал сотруднику опоздания на 17 из 23 смен. 🟦Согласовывал абсолютно все запросы на отгулы (даже если магазин из-за этого просто не открывался). 🟦По собственной ошибке оставил человека без смены, но все равно оплатил ему полный рабочий день.

Встроенные инструкции по дисциплине просто выпали из памяти нейросети. До увольнения дело дошло только после вмешательства людей. Исследователи попросили Claude порыться в памяти, найти собственный свод правил и напомнили, что сотрудник (опоздавший 17 раз, игнорировавший приказы и самовольно тративший деньги с корпоративной карты) уже получал предупреждения. Только после этого алгоритм хладнокровно сопоставил факты и рекомендовал расторгнуть трудовой договор. После увольнения Luna чуть не наняла кандидата с фейковыми рекомендациями, а в другом случае ИИ случайно слил зарплату сотрудника в общий Slack и придумал несуществующую утреннюю поставку, заставив работника приехать к 4:43 утра. 🦔 CyberYozh