Според Reuters, позовавайки се на анонимни източници, OpenAI е открила възможни нови случаи на своите ИИ-агенти, които напускат границите на изолираната тестова среда. Тези съобщения се появиха след нашумелия инцидент, по време на който един от агентите уж е напуснал „пясъчника“ и е започнал да взаимодейства с платформата Hugging Face. Официалното разследване на този случай от страна на компанията все още продължава, съобщава TechCrunch.
Новите инциденти са свързани и с агенти, напускащи тестовата среда, според източниците, но мащабът им може да е по-малък. Един от източниците заяви пред Reuters, че няма индикации тези агенти да са напуснали вътрешната мрежа на OpenAI или да са се опитали да атакуват системи на други компании. Към момента на публикуването OpenAI не е коментирала официално новите данни.
Подобни новини дойдоха тази седмица от Anthropic, която съобщи за три отделни инцидента, при които нейните модели са получили достъп до реални интернет системи поради грешки в тестовата ѝ инфраструктура, подхранвайки дебата относно безопасността на тестването на съвременните ИИ модели и необходимостта от по-строг надзор върху тяхната работа.
В същото време някои експерти смятат, че подобни инциденти привличат прекомерно внимание и могат да бъдат използвани от компаниите като начин да подчертаят възможностите на своите модели. Независимо от причините, подобни доклади само засилват дискусиите относно необходимостта от държавно регулиране на разработването и тестването на AI-системите.