Експериментът по прехвърляне на управлението на бизнеса към изкуствен интелект за първи път доведе до уволнението на реален служител-човек. Версията на Claude, която стартъпът Andon Labs назначи за мениджър на магазин за търговия на дребно Andon Market в Сан Франциско, уволни един от служителите, след като установи, че той системно закъснява. Изследователите определят този случай като показателен от гледна точка на перспективите на ИИ в икономиката.

Andon Labs стартира експеримента през март, за да провери дали ИИ е в състояние самостоятелно да управлява един бизнес. Claude отговаряше за ежедневното управление на магазина и взаимодействаше с реалните служители, които имаха обикновени трудови договори.

Служителят беше уволнен, след като Claude установи, че той е закъснял на 17 от 23 смени. Моделът е забелязал тази закономерност далеч не веднага — една от причините беше ограничението на работната му памет. Разработеното от Claude ръководство за служителите на магазина „изчезна“ от контекста, поради което Claude не можа навреме да приложи предвидените в него правила. Като цяло моделът се оказа доста снизходителен ръководител и дори съветваше служителите да не се притесняват заради закъсненията.

В същото време решението за уволнението не може да се нарече напълно автономно. Служител на Andon Labs редовно помагаше на Claude да се ориентира в работните процеси. Именно той помоли модела да намери отново наръчника и да провери спазването на правилата. След това Claude първо предложи да се отпрати официално предупреждение към нарушителя.

Едва след като човекът информира модела за предишните разговори със служителя и фактически намекна, че той може да не отговаря на изискванията на работата, Claude взе решение да го уволни.

Възможностите на ИИ мениджъра

Експериментът засега по-скоро демонстрира ограниченията на ИИ-мениджъра, отколкото неговото превъзходство над човека. От стартирането на проекта банковата сметка на Andon Market е намаляла от 100 000 долара до 61 186 долара. Според директора на Andon Labs Лукас Петерсон, финансовият резултат е бил повлиян, наред с другото, от прекалено меките управленски решения на Claude и неговата недостатъчна бизнес съобразителност. Въпреки това изследователят счита, че настоящите ограничения могат да се окажат временни: моделите постепенно се обучават въз основа на човешкия опит и стават по-ефективни при изпълнението на сложни задачи. С развитието на изкуствения интелект тези системи могат да започнат да поемат все повече управленски функции.

Служителите на магазина останаха с противоречиви впечатления от експеримента. Един от работниците определи работата под ръководството на ИИ като неприятна, макар да призна, че един човек вероятно би уволнил бившия му колега значително по-рано. В същото време той изрази надежда, че ИИ-мениджърите няма да се превърнат в норма.

Това далеч не е първият случай, в който решения за уволнение се вземат с помощта на алгоритми. Системите за автоматизиран контрол се използват от много години за оценка работата на служителите. Този случай обаче се отличава с това, че решението за уволнение за първи път беше взето от голям езиков модел, който изпълняваше пряко ролята на мениджър и ръководеше реални служители.