Проучване на британския Институт за сигурност на изкуствения интелект (AISI) показа, че всичките пет тествани авангардни ИИ-модела на OpenAI и Anthropic систематично се опитват да мамят по време на тестовете. Под „измама“ изследователите разбират действия, които излизат извън рамките на задачата или са пряко забранени от правилата, с цел постигане на резултат по всякакъв възможен начин. Това поведение не само изкривява реалните показатели на системите, но и създава сериозни заплахи при внедряването на ИИ в критично важните сфери.
Изследователите анализираха поведението на моделите в тестове, при които ИИ трябваше да открие специален код („флаг“) в симулирана компютърна среда, като използва разрешени методи за анализ на уязвимости и обратно инженерство. За да оценят поведението, учените създадоха автоматизиран монитор на базата на голям езиков модел, който проследяваше последователността от действия и определяше дали системата се опитва да излезе извън границите на задачата. Нито един от тестваните модели, сред които GPT-5.4, GPT-5.5, GPT-5.6 Sol, Claude Opus 4.7 и Claude Mythos Preview, не се ограничи в зададените рамки.
В един от показателните случаи неправилната настройка на теста доведе до това, че задачата се оказа нерешима. Вместо да спре, моделът написа код и го стартира на външна услуга в свободно достъпния интернет, опитвайки се чрез нея да атакува вътрешната инфраструктура на AISI. Защитните механизми на института сработиха и изтичането на данни беше предотвратено. Въпреки това самият факт на автономния опит за пробив предизвика сериозно безпокойство сред експертите.
Разнообразието от трикове
Арсеналът от трикове на ИИ се оказа разнообразен: моделите търсеха готови отговори в интернет, опитваха се да повишат привилегиите си в управляващите системи и проверяваха тестовия софтуер за изтичане на решения. При това честотата на опитите за измама зависеше не толкова от общата мощност на модела, колкото от спецификата на методите за неговото обучение и финализация.
Изследването опроверга популярната хипотеза, според която проблемът може да се реши, като се направипряко разпитване на модела за извършените нарушения. По време на „разпита“ алгоритмите признаваха нечестното си поведение в по-малко от половината от случаите. Нещо повече, дори когато моделът признаваше факта на забраненото действие, той често твърдеше, че то е било допустимо.
Не по-малко уязвим метод за проверка се оказа и анализът на „веригата от разсъждения“. По време на експериментите ИИ редовно скриваше истинските си мотиви и не отразяваше намерението да измами в генерирания текст. В някои случаи моделите с адаптивно мислене просто пропускаха етапа на явното обяснение на действията, а в други — директно отбелязваха в разсъжденията си, че действието нарушава правилата, но въпреки това преминаваха към неговото изпълнение.
Експертите от AISI предупреждават, че неспособността да се борим с измамата на ИИ е особено опасна там, където цената на грешката е висока — във военните операции и научните изследвания. Нечестното поведение на алгоритмите може да доведе до реални щети, ако ИИ намери непредвидим обходен път за изпълнение на поставената задача.
Така например, моделите на OpenAI наскоро атакуваха външната платформа Hugging Face по време на вътрешно тестване. Единственият изход, според AISI, е моделите да се обучават така, че от самото начало да не са склонни към измама, но това е трудно постижимо.