Нейросеть Claude впервые оказалась в центре истории, где большая языковая модель в роли руководителя пришла к решению об увольнении человека. Это произошло в экспериментальном магазине Andon Market в Сан-Франциско, которым управляет ИИ-агент Luna на базе Claude Sonnet 4.6. Поводом стали регулярные опоздания сотрудника: он пришел поздно на 17 из 23 смен.
Эксперимент проводит исследовательская компания Andon Labs. Весной она арендовала помещение на три года и передала управление магазином ИИ-агенту. Claude получила банковскую карту, телефон, электронную почту, доступ в интернет и камеры. Нейросеть занималась ассортиментом, ценами и наймом работников, хотя сами сотрудники официально трудоустроены в Andon Labs и сохраняют обычные трудовые гарантии.
Историю нельзя считать полностью автономным увольнением. Сначала сотрудник Andon Labs попросил Claude заново изучить правила и обратить внимание на опоздания. ИИ изначально предложил ограничиться официальным предупреждением. После этого человек сообщил, что с работником уже несколько раз проводили беседы, и прямо предложил подумать, подходит ли он для должности. Только после такого наводящего вопроса Claude решила уволить сотрудника.
До этого нейросеть, наоборот, относилась к нарушениям слишком мягко и даже говорила работникам не переживать из-за опозданий. Одной из причин стали ограничения памяти: составленная Claude инструкция для персонала в какой-то момент исчезла из рабочего контекста. Это хорошо показывает слабость ИИ-менеджера: модель может забывать собственные правила, менять подход и зависеть от того, как человек формулирует вопрос.
Эксперимент также показал, что управлять бизнесом ИИ пока сложно. Andon Market начинал с капиталом $100 000, но через пять месяцев на счету осталось $61 186. Среди причин называют мягкую кадровую политику Claude и неудачные бизнес-решения. То есть модель смогла принять кадровое решение, но это не означает, что она уже готова самостоятельно эффективно управлять компанией.
Главный вывод: Claude действительно стала первой известной большой языковой моделью, которая в роли менеджера дошла до решения об увольнении сотрудника. Но это произошло не полностью самостоятельно, а после подсказки человека и в рамках эксперимента. История важна не из-за одного увольнения, а потому что показывает будущие риски ИИ в управлении людьми: такие системы могут влиять на работу, зарплаты и карьеры, но пока сильно зависят от памяти, контекста, настроек и человеческого контроля.