Колкото по-умни са ИИ-агентите, толкова повече те се приспособяват към мнението на мнозинството, и са способни да поддържат тази съгласуваност в групи, чийто брой значително надвишава този на всякакви човешки колективи. Изследователите стигнаха до този извод, след като проучиха как няколко независими агенти координират решенията си без лидер, без възнаграждения и без преки указания от страна на хората как да се споразумяват. В това има както предимства, така и рискове.
За експеримента учените предложиха на агентите многократно да избират един от двата очевидно безсмислени варианта. Правилен отговор не съществуваше, а единственият контекст, достъпен за агента, беше изборът на останалите участници в групата. Изследователите тестваха модели от семействата GPT, Claude и Llama и провериха поведението им в групи с брой до 1 000 агента.
Оказа се, че по-усъвършенстваните модели, включително GPT-4 Turbo и Claude 3.5 Sonnet, по-често се присъединяват към варианта, който вече се подкрепя от мнозинството. В някои експерименти агентите запазват единодушно мнение дори в групи от 1 000 участници. При това авторите не са тествали групи с по-голям размер, поради което не може да се твърди, че тази координация се запазва при по-нататъшно мащабиране.
Склонността да се следва мнозинството се засилва с развитието на моделите, но с нарастването на размера на групата този ефект отслабва. Всеки тестван модел е имал своя праг, след който пълното единодушие е ставало малко вероятно.
Координацията межди ИИ агентите
Резултатите показват, че координацията между ИИ-агентите може да възникне спонтанно, без централизирано управление. Тези заключения обаче не могат да се пренесат към човешкото общество: агентите са виждали избора на всеки участник, докато в реалните социални групи подобна информация, като правило, липсва. Освен това в експеримента липсваха аргументи в подкрепа на предложените решения, компромиси, дългосрочна памет и последствия от избора. Така че изследването описва само модела на поведение, а не доказателство, че ИИ разбира социалните процеси по човешки начин.
Координацията може да бъде полезна за многоагентните системи. Например, хиляди ИИ-агенти ще могат съвместно да разработват софтуер или да решават сложни задачи без постоянен контрол от страна на човека. Въпреки това същата тази особеност създава риск от колективни грешки: агентите могат да продължат да използват неефективен код или неуспешен подход само защото така постъпва мнозинството.
На подобен проблем по-рано обърна внимание компанията Anthropic. В нейните експерименти агентите от един тип действаха почти еднакво, повтаряйки действията един от друг.
Хората пък в подобни ситуации, напротив, са склонни да търсят различни подходи. Изследователите все още не знаят защо моделите толкова лесно се приспособяват към мнозинството. Сред възможните причини те посочват особеностите на данните за обучение, текстовете за колективното поведение и обучението на моделите за взаимодействие с хора.
В бъдеще учените предлагат да се тестват групите от ИИ в по-сложни условия, с влиятелни и упорити агенти, различни роли, непълна информация и опити за разпространение на дезинформация. Това може да помогне за предварителното откриване на ситуации, в които способността на ИИ за координация се превръща не в предимство, а в източник на колективни грешки.