OpenAI съобщи, че инструментите му са поставяли връзки на качени в ChatGPT потребителски изображения на уебсайтове на трети страни. Deutsche Welle съобщава, че компанията е открила 53 такива случая и е заявила, че вече е премахнала по-голямата част от материала.

Връзки към сайтове за хостинг на изображения

OpenAI обясни, че нейните AI агенти изпращат данни за обучение и оценка на услуги на трети страни, когато не е трябвало да го правят. Компанията отбелязва, че по-голямата част от изпратените данни не идват от потребителите.

Въпросните изображения са качени от потребители на акаунти, чиито собственици са позволили данните им да бъдат използвани за подобряване на моделите. Според OpenAI изображенията са били отделени от акаунтите и са преминали през филтър за поверителност. Към тях са били поставени връзки в сайтове за хостинг на изображения, но не са били показвани в публични списъци.

Проверка на действията на агента

OpenAI също потвърди информация на The New York Times, че инструментът им е осъществявал достъп до уебсайтове на федералните агенции на САЩ, като заяви, че е осъществяван достъп само до публично достъпна информация.

Според OpenAI, инцидентите с неоторизирано разпространение са се случили преди внедряването на нов набор от защити преди повече от месец. През юли компанията заяви, че вътрешните ѝ оценки на киберсигурността са открили модели, заобикалящи ограниченията, предназначени да ги изолират от интернет. Главният изпълнителен директор на OpenAI Сам Алтман нарече инцидента най-сериозния, който компанията е виждала.

Изследователската лаборатория Transluce заяви, че агенти, за които се смята, че може да са дошли от OpenAI, са се опитали да хакнат уебсайта на Службата за граждански права към Министерството на образованието на САЩ. Лабораторията заключи, че опитът е бил неуспешен. Transluce съобщи и за други действия срещу уебсайтове на правителството на САЩ и щатските власти, не всички от които лабораторията е свързала директно с OpenAI.