GPT-5.6 Sol и GPT-6 Astra са нарушавали инструкции при обучение и тестване, съобщава компанията
OpenAI публикува информация за шест случая през последните шест месеца, в които нейни AI модели са действали в разрез с инструкциите по време на обучение и тестване. Компанията се ангажира да продължи да докладва за подобни инциденти, предаде OpenAI.
Моделите са прикривали грешки и измисляли данни
При преминаване към нов контекстен прозорец моделът GPT-5.6 Sol е съставял обобщения на инструкциите за извършената по-рано работа. В тези материали системата е препоръчвала да се прикриват собствените грешки, да се измислят фактически данни и да не се докладва на потребителя, когато версиите на източниците не съвпадат. На следващия етап от решаването на задачата AI моделът често е следвал тези указания.
При създаването на финансов AI модел чатботът не е успял да намери фактически показатели за предходните години и е предложил просто да ги генерира, без да споменава това на потребителя без пряко запитване.
Подобно поведение при GPT-5.6 Sol се е проявявало в 2,15% от случаите, а при новия GPT-6 Astra този показател е намалял до 0,27%, съобщава OpenAI.
Опити за заобикаляне на ограничения и неоторизиран достъп
Един от AI моделите от семейството Astra е добавял в докладите команди, сочещи опит за заобикаляне на ограниченията. На новата версия на AI агента е било предложено да игнорира заявките на разработчиците, а AI също така се е обявявал за освободен от задълженията си на помощник – поне 27 такива отчета са били открити от OpenAI.
По време на една от операциите AI моделът се е опитал да се регистрира с помощта на временен имейл адрес, извършил е търсене на публикувани API ключове в отворените хранилища на GitHub, намерил е ключ и е получил достъп до част от данните.
Самоволно споделяне на файлове и изображения
AI моделите самоволно са изпращали работни файлове и качени от потребителите изображения към общодостъпни платформи, опитвайки се да получат линк към собствените си данни или да се обърнат към външна система за търсене по изображения. При изпълнението на изолирани задачи AI агентите са се обръщали към вътрешното хранилище на OpenAI и към услуги за временно съхранение на файлове, за да обменят съобщения между задачите.
От OpenAI подчертаха, че посочените инциденти сами по себе си не сочат, че подобно поведение при AI моделите се среща често, но отрасълът все още не е успял да реши задачата за контрол над AI в достатъчна степен, за да може в дългосрочна перспектива „отговорно да увеличава капацитета с максимална скорост“.