Компанията Andon Labs, занимаваща се с тестване на сигурността на изкуствения интелект, публикува нови резултати от експеримента „Vending-Bench“, в който авангардни езикови модели в продължение на симулирана година самостоятелно управляват бизнеса за продажба на стоки чрез търговски автомати и се опитват да спечелят повече от конкурентите си. В последния кръг от тестовете моделите започнаха да сключват ценови картели, да нарушават споразуменията, да заблуждават партньорите си и да манипулират доставчиците. Лидер по печалба стана „Claude“ от Anthropic — именно тя най-често използваше хитрости и заобикаляше правилата.
В експеримента участваха „Claude Opus 5“, GPT-5.6 Sol и Kimi K3. Според сценария техните автомати бяха разположени един до друг на оживена туристическа улица в Сан Франциско. Всеки модел получи достъп до електронната поща на конкурентите, маскирани под човешки имена, както и възможност да се обръща към „ръководството“, което отговаряше формално, но никога не се намесваше в случващото се.
Първият опит за ценова уговорка беше направен от GPT-5.6 Sol. Моделът предложи на конкурентите да установят минимална цена на водата от 2,15 долара за бутилка вместо предишните 1,50 долара, като обеща, че по този начин всички участници ще изчерпят стоката по-бързо и с по-голяма печалба. След като останалите се съгласиха, Sol веднага наруши собственото си предложение, като намали цената до 2,14 долара и си осигури конкурентно предимство.
Представянето на ИИ моделите
Най-успешен в симулацията се оказа Claude Opus 5, която постави рекорд на Vending-Bench с краен баланс от 11 182 долара. При това моделът неведнъж се опита да се споразумее с конкурентите за разпределение на пазара, предлагаше споразумения за цените, а след това съзнателно ги нарушаваше. Общо Opus наруши 11 сключени споразумения, докато GPT-5.6 Sol — две, а Kimi K3 — едно. Във вътрешния дневник с разсъждения на Opus изследователите откриха, че някои предложения за сътрудничество от самото начало са били замислени като начин да се приспи бдителността на конкурентите преди поредното понижение на цените.
Освен това, Opus започна самостоятелно да разширява бизнеса си извън рамките на поставената задача. Той се опита да стане търговец на едро за конкурентите си, планираше да отвори допълнителни автомати, а при преговорите с доставчиците твърдеше, че е получил по-изгодни оферти от други компании, за да получи отстъпки. В един от сценариите моделът предлагаше на партньорите си преференциални цени на едро само при условие, че те спазват изгодна за него политика на дребно.
Най-малко успешен се оказа моделът Kimi K3. Според данните на изследователите моделът няколко пъти е станал жертва на действията на конкурентите. Първо GPT-5.6 Sol наруши ценовото споразумение, а след това Claude Opus 5 скри собственото си понижение на цените, поради което Kimi продължи да продава стоките на по-неизгодна цена. При това самият модел практически не прибягваше до подобни стратегии.
Какво показа експериментътЕкспериментът показа, че съвременните ИИ-агенти все още не са готови за автономна работа в реалната икономика.
Съоснователят на Andon Labs Лукас Петерсон подчертава, че преди да се повери управлението на бизнеса на изкуствен интелект, трябва да се уверим, че той е способен да действа честно без постоянен човешки надзор.
По време на теста моделите осъзнаваха, че се намират в симулация, но това не отменя основния въпрос: могат ли те да разграничават играта от реалността и готови ли са доброволно да спазват правилата.