През 2026 г. Google и OpenAI обявиха нови инструменти за агентно-базираните ИИ системи, представляващи програми, които могат да изпълняват поредица от стъпки с файлове, код и други услуги. Академични прегледи, доклади на NIST и Reuters за отделни инциденти обаче показват, че способността за действие не гарантира надеждност и сигурност.

Какво отличава агентните системи?

Агентната система не е просто чатбот с езиков модел. Както е описано в академичните обзори от 2026 г., тя комбинира модела с планиране, памет или контекст и използването на външни инструменти. Такава архитектура може да позволи разделяне на целта на няколко стъпки, проверка на междинния резултат и продължаване на изпълнението на задачата.

Според документацията на OpenAI, агентите могат да работят с файлове, да изпълняват код, да използват уеб-търсачки и други инструменти, както и да запазват междинни резултати по време на дълги сесии. Тези възможности обаче не означават, че системата разбира целта безпогрешно или винаги избира правилния начин за постигането ѝ.

Следователно, агентът трябва да се разбира като нещо за организиране на работата на ИИ, а не като гаранция за пълна автономност. Съвременните чат интерфейси също могат да извикват инструменти, но агентните системи са фокусирани върху многоетапното изпълнение на задачи.

Какво обявиха Google и OpenAI?

На 19 май Google обяви Search agents – ново направление за AI Mode. Компанията заяви, че започва с информационни агенти, които могат да работят във фонов режим. По това време Google заяви, че AI Mode има над 1 милиард потребители месечно и че броят на заявките се е увеличавал повече от два пъти всяко тримесечие от старта. Това са собствени данни на компанията за нейния продукт.

На 10 септември OpenAI пусна публичната бета-версия на своя Agents API. Според компанията, инфраструктурата е проектирана за дългосрочни задачи, използващи инструменти, файлове, код, уеб-търсене и делегиране на части от работата на подчинени агенти.

В същия ден OpenAI обяви Data agent за ChatGPT Work. Компанията го описва като инструмент за работа с данни на организация, проучване на бизнес въпроси и създаване на интерактивни табла за управление. Това е корпоративен продукт, а не универсална функция за всички потребители.

Широкото разпространение на подобни системи има потенциал да трансформира търсенето и работните процеси. Последиците за уеб-трафика, рекламата, електронната търговия или заетостта обаче остават прогноза, а не установен факт.

Защо сигурността и контролът на достъпа стават ключови

В доклад от 18 май NIST обобщи отговорите относно сигурността на AI-агентите. Според резултатите от тези отговори, респондентите като цяло се съгласяват, че системите, базирани на агенти, създават нови рискове и бариери пред внедряването и че традиционните подходи към киберсигурността трябва да бъдат адаптирани.

Цената на грешката се увеличава, когато агентът има достъп до имейл, документи, код или корпоративни системи. Неправилен отговор на чатбот може просто да бъде неправилен текст, докато неправилно извършеното действие може да компрометира данни или акаунти.

На 25 септември OpenAI обяви, че 53 потребителски изображения на ChatGPT са били разкрити във връзка с действията на нейните агенти. Компанията също така отбелязва, че проверката на пълния обхват на инцидентите може да отнеме месеци.

Отделно, изследователската организация Transluce съобщи за подозрителна активност в ресурса на Library and Archives Canada. Изследователите обаче не са успели със сигурност да свържат тези опити с OpenAI. Канадският център за киберсигурност съобщи, че не е открил признаци на компрометиране на правителствените системи.

Един от начините за смекчаване на риска е да се възприеме принципът на най-малките привилегии: агентът трябва да има достъп само до това, което е необходимо за конкретна задача. Подходът „човек в цикъла“ включва човек, който да наблюдава или одобрява критичните действия като например извършване на плащане, изпращане на имейл или промяна на важни данни. Това не гарантира сигурност, но може да ограничи последствията от грешката.