OpenAI е наела стотици външни изпълнители, за да прегледат реалните потребителски разговори с ChatGPT.

Това съобщава 404 Media.

Какви са рисковете за потребителите?

Повече от 900 милиона потребители на ChatGPT използват чатбота като личен терапевт, дигитален приятел или работен асистент, без да осъзнават човешкия контрол.

Какви са последствията?

Изтичане на лични данни. Въпреки че OpenAI се опитва автоматично да премахва личната информация, преди подканите да достигнат до хората, които я проверяват, компанията признава, че чувствителните детайли все още се промъкват през филтрите ѝ.

Анонимност без гаранции. Изпълнителите не виждат потребителските имена, но съдържанието на съобщенията често съдържа идентифицираща информация.

Потвърждение от Anthropic. Журналисти откриха, че Anthropic също използва подобна практика да оценява диалозите от реалния свят с хора, за да подобри своите модели.

Борба с ласкателствата и съдебните дела

Основната цел на модераторите е да оценят качеството на отговорите и да коригират поведението на изкуствения интелект, за да го направят по-безопасен за обществото.

Как работи това?

Забрана за антропоморфизиране. Изпълнителите на ChatGPT са инструктирани да не се представят за никого и да избягват прекомерното ласкателство.

Предотвратяване на нови съдебни дела. Прекомерното ласкателство на модела GPT-4o вече доведе до редица трагични инциденти и самоубийства на потребители, от което следват и продължителни съдебни битки срещу OpenAI.

Митът за самообучението. Тази ситуация опровергава идеята, че изкуственият интелект се подобрява единствено чрез автоматизирано събиране на данни от интернет или чрез усилията само на разработчиците.

Реакциите на общността и оценителя

Самите модератори отбелязват, че хората дори не осъзнават, че личните им разговори с чатбота се анализират от трети страни.

Въпреки това, човешкият труд остава основният елемент за коригиране на разрушителните модели на алгоритмично поведение.