Специалистите по киберсигурност от компанията Sysdig заявиха, че са регистрирали вероятно първия документирано потвърден случай, в който агент, базиран на голям езиков модел самостоятелно е изпълнил пълния цикъл на кибератака. Според изследователите, рансъмуер програмата JadePuffer, без човешка намеса е провела разузнаване, откраднала е потребителски данни, установила се е в системата, повишила е привилегиите си и е криптирала данните на жертвата, съобщава специализираното издание BleepingComputer.
JadePuffer е получил първоначален достъп до инфраструктурата, като е експлоатирал уязвимостта CVE-2025-3248 в платформата Langflow, която се използва за създаване на приложения на базата на големи езикови модели. След това агентът автоматично събрал информация за системата, намери данните за достъп, получи достъп до други сървъри и накрая атакува сървъра на Alibaba Nacos, където криптира 1342 конфигурационни записи.
Според Sysdig основната особеност на атаката беше способността на AI да се адаптира към неуспешните опити. Ако някой от сценариите не сработваше, AI агентът анализираше грешката, променяше действията си и продължаваше атаката. В един от епизодите той самостоятелно намери начин да заобиколи проблема с автентификацията само за 31 секунди.Друг признак за използването на агентен AI бяха коментарите в генерирания код. Те обясняваха на естествен език логиката на отделните действия, а самият AI агент не просто повтаряше едни и същи команди, а ги променяше в зависимост от получените резултати. Въпреки това изследователите откриха и признаци за грешки, характерни за съвременните езикови модели. Например, в бележката с искането за откуп беше използван тестов Bitcoin адрес, който често се среща в техническата документация, а твърденията за криптиране с AES-256 не се потвърдиха. Според Sysdig всъщност е бил използван по-слабият режим AES-128-ECB.
Функцията за криптиране
В Sysdig смятат, че появата на агентен AI, способен самостоятелно да провежда сложни кибератаки може значително да понижи прага за достъп за злоумишлениците. В същото време изследователите отбелязват, че съвременните LLM оставят характерни следи в работата си, които могат да помогнат на системите за защита да откриват подобни атаки.