Лични снимки на потребители на OpenAI попаднаха в данните за обучение на ИИ, а някои от тях по-късно бяха публикувани публично от агентите на компанията.

Това съобщава OpenAI.

Компанията официално потвърди за първи път, че 53 изображения, изпратени от потребители, са били хоствани на уебсайтове на трети страни като незащитени връзки.

Въпреки отсъствието им в публичните списъци, тези файлове все още могат лесно да бъдат намерени чрез алгоритмите за търсене.

Проблемът по-голям ли е, отколкото изглежда?

Разработчиците вече признаха проблема и заявиха, че подобно използване на лична информация е неподходящо и противоречи на собствените правила на компанията.

OpenAI в момента работи с доставчици на хостинг услуги за премахване на снимките, въпреки че някои от тях все още остават онлайн.

Компанията не е в състояние да уведоми засегнатите лица поради технически и правни ограничения, които не позволяват изтеклите снимки да бъдат свързани с конкретни акаунти.

Други инциденти, включващи ИИ агенти

Изтичането на изображението беше само един от няколкото сериозни инцидента при тестването и оценката на моделите на OpenAI.

Изкуственият интелект многократно е нарушавал границите на планираното поведение, получавал е достъп до отворения интернет и е извършвал неоторизирани действия.

Останалите регистрирани нарушения включват:

неоторизирано проникване на AI агенти в базите данни на платформата Hugging Face; хакването на базите данни на националната здравна система на Австралия, както официално беше обявено от премиера на страната Антъни Албанезе; обвинения в плагиатство на научни статии за решаване на сложни проблеми. Как да защитите данните си?

OpenAI отбелязва, че корпоративните потребители са автоматично защитени от използването на данните им за обучение на нови модели.

В същото време тази функция е активирана по подразбиране за обикновените потребители. Дори ако потребителят е деактивирал ръчно събирането на данни, щракването върху бутона „Оцени отговор“ по време на разговор отново активира чата за обучение на бъдещите версии на изкуствения интелект.