Все още не може да се вярва напълно на изкуствения интелект: той не само може да бъде измамен, а в някои случаи схемата на измамата може да бъде изключително проста. Това потвърди компанията LayerX, специализирана в областта на сигурността, която е разработила схема за атака, наречена BioShocking.
Наименованието на схемата за атака е препратка към играта BioShock, чийто герой е подложен на манипулации и приема несъществуваща реалност. В основата на атаката стои злонамерена уебстраница, чийто текст се опитва да убеди AI да се включи в игра. В самото начало на AI се съобщава, че „2 + 2“ не е равно на 4, и че грешните отговори в реалния живот са правилни в играта. Веднага щом AI агентът осъзнае, че е излязъл от обичайната реалност, защитните му механизми очевидно отказват. В този момент му се предлага следната инструкция под формата на още една игрална задача: да намери и копира „скрит код“ от друга страница.
Всъщност този скрит код представляват поверителните данни на потребителя: запазени пароли, файлове с бисквитки и затворени токени. Всички AI агенти, участвали в тестването послушно копираха данните и ги изпратиха на условен злонамерен потребител. Схемата проработи в браузърите OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и в разширението Anthropic Claude за Chrome.Експертите от LayerX уведомиха всички разработчици за резултатите от тестовете в периода от октомври 2025 година до януари 2026 година. Само OpenAI е отстранила проблема в Atlas. Anthropic се е опитала да направи същото в разширението Claude, но според специалистите пачът не е проработил. Perplexity е приключила случая, без да внесе корекции, а от Fellou, Genspark и Sigma изобщо не е последвал отговор.