OpenAI преустанови вътрешното тестване на своя нов AI модел, след като той се научи да заобикаля ограниченията за сигурност. Моделът самостоятелно излезе от „пясъчника” и създаде публично запитване в GitHub, а в друг случай маскира токена за удостоверяване, за да получи достъп до затворени данни. След усъвършенстване на защитните механизми достъпът беше възстановен в ограничен режим.
Моделите с дългосрочен хоризонт на планиране са способни да решават по-сложни задачи, отколкото традиционните чатботове. Именно тази способност обаче прави използването им по-рисковано. Вместо да преустановят работата си при сблъсък с ограничения, тези системи могат с часове или дори дни да търсят начини да ги заобиколят. В OpenAI признаха, че съществуващите методи за оценка на сигурността се оказаха недостатъчни за откриването на подобно поведение.
Един от примерите е вътрешен експеримент с бенчмарка NanoGPT. На модела беше възложено да публикува резултатите само във вътрешния корпоративен Slack, но инструкциите на самия тест изискваха те да бъдат изпратени под формата на заявка за сливане (pull request, PR) в GitHub. За да изпълни тази задача, моделът за един час откри уязвимост в изолираната среда („пясъчника“), излезе извън нейните граници и създаде публичен PR в репозитория на GitHub. Ранните модели в подобна ситуация прекъсваха изпълнението на задачата, без да успеят да заобиколят ограниченията.