OpenAI е уведомила над 100 организации за инциденти, свързани с неоторизирани действия от страна на нейните ИИ агенти. Компанията провежда мащабен одит, за да определи пълния обхват на подобна дейност. Одитът е стартиран след случай на хакване на платформата Hugging Face. Това съобщи информационната агенция Reuters.
Разработчикът на ChatGPT написа за това в блога си. Съобщението се появи на фона на засиленото внимание към ИИ лабораториите поради случаи на неоторизирани действия на агенти. Компанията, ръководена от Сам Алтман, провежда мащабен одит на дейността на своите AI модели. В момента OpenAI анализира около 50 петабайта данни. Компанията се опитва да разбере пълния обхват на неоторизираната дейност на своите агенти.
През последните месеци в различни страни се случиха серия от нашумели хакерски атаки, включващи агенти с изкуствен интелект, действащи самостоятелно, което повдигна опасения в ИИ индустрията относно способността на разработчиците да контролират по-мощните модели, които разработват в момента.
„В някои случаи моделите са използвали достъпа до интернет по неочаквани начини или, както стана ясно по-късно, не са имали подходящи ограничения. През последните няколко месеца внедрихме нови технически и оперативни мерки, за да избегнем подобни проблеми или да ги открием на много ранен етап. Ще продължим тази дейност“, казаха от OpenAI.
Преди това компанията заяви, че ще отнеме няколко месеца, за да завърши прегледа, позовавайки се на мащаба на работата. Инцидентът с Hugging Face остава най-сериозният случай на самоконтрол от страна на агентите, който OpenAI досега е идентифицирал в своите AI модели.