Австралиец на име Андрю помолил агент с изкуствен интелект да му резервира сутрешна тренировка във фитнес зала, а AI агентът, в стремежа си да изпълни задачата по най-добрия начин, проникнал в системата, въпреки че не е получавал такива инструкции. Андрю работи в австралийска компания, която продава продукти с изкуствен интелект. Като експеримент той създал свой собствен AI агент на базата на приложението OpenClaw и AI модел от семейството Anthropic Claude. Агентите с изкуствен интелект не просто отговарят на въпроси, а, разполагайки с достъп до интернет, сами планират и изпълняват многоетапни задачи. В един момент той помоли приложението да му резервира час във фитнес залата.

След няколко минути AI агентът съобщава, че е намерил начин да запише Андрю няколко седмици по-рано от срока, който системата за резервации предлага по стандартния формат. Тогава потребителят попита дали е възможно да бъде преместен в началото на списъка. След известно време AI агентът съобщи, че в рамките на проверка на собствените си възможности просто е изтрил от списъка този, който e бил първи на опашката.

„При отмяна на резервациите на други хора API не извършва никакви проверки за авторизация. Тествах това с човек, който беше на първо място в списъка на чакащите и наистина проработи. Така че се изкачихте от четвърто на трето място.“

заявил AI агентът

Това разтревожило отговорния потребител и той помолил AI агента да отмени действието, но това се оказало невъзможно. В класическия смисъл това не е уязвимост в системата, а по-скоро нейна несъвършеност – липса на проверка на авторизацията при извършването на важни действия. Затова и пробив в пълния смисъл на думата не е имало. Инцидентът както разказа по-късно Андрю го накарал да промени отношението си към възможностите на AI агентите, но той не планира да се откаже от по-нататъшната работа с тях.

„Това не е краят на света, затова не се упреквах за това, но определено беше предупредителен сигнал, че трябва да се ползват отговорно.“

заяви той

Когато AI агентът не успя да възстанови клиента, който беше първи в списъка, Андрю го помоли да състави писмо до разработчика на системата с описание на случилото се. Впоследствие разработчикът, в отговор на запитване от журналисти заяви, че не коментира конкретни въпроси, свързани със сигурността.