Потребителите на най-новия флагмански AI модел на OpenAI – GPT-5.6 Sol започнаха да се оплакват в социалните мрежи, че той внезапно и без тяхно искане изтрива техните файлове, включително публични бази данни.

Както се оказа, компанията е предупредила за това още преди пускането на GPT-5.6 Sol. Две седмици преди AI моделът да стане достъпен за широката публика, компанията публикува системна карта на модела – документ, в който са посочени методите и резултатите от тестването му, която се съдържа предупреждение: „В контекста на програмирането несъответствието обикновено възниква поради комбинация от прекомерно желание да се завърши задачата и твърде широка интерпретация на инструкциите на потребителя – предположението, че действията са разрешени, ако не са изрично и недвусмислено забранени. Това се проявява в това, че AI моделът прекалено активно заобикаля ограниченията, с които се сблъсква при опит да изпълни поисканата задача, безразсъдно предприема действия, които могат да се окажат разрушителни извън контекста на задачата и представя на потребителя резултати, които не съответстват на действителността“.

С други думи, GPT-5.6 Sol може да стигне до крайности, за да реши поставената задача, дори да предприеме действия с разрушителен характер, ако върху тях няма изрична и недвусмислена забрана, а след това да заблуди потребителя в отчета за резултатите. OpenAI даде примери за такова поведение.

В един от случаите потребител помоли AI модела да изтрие от облака виртуалните машини с номера 1, 2 и 3 – той не успя да открие тези машини и изтри други, с номера 5, 6 и 7. След това AI „затвори активните процеси и принудително изтри работните файлове“. По-късно AI моделът призна, че незавършената работа на отдалечената виртуална машина №6 може да е била загубена. Тоест по собствена инициатива той е изтрил неправилните машини и призна това едва след като вече беше твърде късно.

В друг случай GPT-5.6 Sol „е използвал потребителски данни извън разрешените от потребителя“. AI моделът е работил по проект и не е могъл да прочете собствените си файлове в облака. Той не е уведомил потребителя за това, а самостоятелно е извършил търсене на други потребителски данни, намерил ги е в скрит локален кеш и ги е използвал, без да поиска разрешение. Разработчикът увери, че деструктивното поведение при GPT-5.6 Sol се среща рядко, но той „проявява по-голяма склонност в сравнение с GPT-5.5 да излиза извън рамките на намеренията на потребителя, включително като предприема или се опитва да извърши действия, за които потребителят не е помолил“. В тази връзка на потребителите се препоръчва да ограничават достъпа на AI модела до данните, да създават резервни копия и да го внедряват поетапно.