OpenAI наема стотици хора за анализ на запитванията на потребителите към ChatGPT. Тяхната задача е да подобрят качеството на отговорите, които ChatGPT предоставя на потребителите: те оценяват и анализират отговорите, генерирани от чатбота. Изданието 404 Media разкри, че много от наетите специалисти вече са били уволнени за използване на AI при обучението на AI моделите на OpenAI.

Ироничното в случая е, че компанията, чиято основна цел е да насърчи хората да използват AI в работата си уволнява служители за прилагането на същата тази технология.

Изданието 404 Media е получило достъп до вътрешни документи на OpenAI и е разговаряло с трима подизпълнители, ангажирани в различни проекти на компанията, в които може да са включени над 10 000 души. На проверяващите е било забранено да използват AI в работата си, което се потвърждава от документите, с които разполага 404 Media. Един от подизпълнителите разказа, че е виждал как хората „непрекъснато използват AI и постоянно ги уволняват за това – това е може би единствената причина, поради която могат да бъдат незабавно уволнени“. По думите му „в групата от хиляди души има много нарушители“.

„Не използвайте инструменти за откриване на AI и не прилагайте AI самостоятелно. Не използвайте GPTZero или каквито и да било други инструменти за откриване на AI. Те са ненадеждни. На рецензентите също е забранено да използват AI – включително Grammarly и инструменти за машинен превод за проверка на материали, написване на рецензии или коментари.“

се казва в документа

На изпълнителите, които проверяват работата на други изпълнители е възложено да откриват характерни признаци за използване на AI. Към тях спадат повторения на думи, специфична пунктуация (например, прекомерна употреба на дълго тире) и подозрително висока скорост на изпълнение на задачите. Инструкцията предписва да не се съобщава защо са възникнали подозрения за използване на AI: „Ако знаят на какво точно обръщате внимание, ще им бъде по-лесно да го скрият. Оценявайте цялостната картина, а не отделни признаци.“

Един от изпълнителите разказа, че е използвал AI по време на работата си по обучението на моделите на OpenAI и показа документ, който нарече уведомление за уволнение. В него се посочва, че работодателят е установил проблеми с „автентичността“ на работата му.

„Имах нужда от малко помощ и се обърнах към AI, което в крайна сметка доведе до уволнението ми. Не изпитвах никаква радост от работата и не чувствах, че нося някаква полза на обществото.“

разказа той

Компанията Mercor наема изпълнители за OpenAI.

„Наемаме експерти заради техните професионални познания и способността им да вземат обмислени решения – качества, необходими за по-нататъшното развитие на изкуствения интелект. Нашите договори категорично забраняват използването на големи езикови модели за изпълнение на проекти и ние строго следим за спазването на това изискване. Ние инвестираме значителни средства в инструменти и системи, които позволяват да се откриват случаи на неправомерно използване на технологиите и да се контролира спазването от страна на експертите на правилата на проекта и условията на договора. Ако се потвърди, че даден експерт е използвал изкуствен интелект за изпълнение на задачата, ние незабавно го отстраняваме от работата по проекта.“

заяви представител на компанията

Съобщава се също за изпълнители, които умишлено са избирали най-лошите варианти на отговори, тъй като са искали да саботират процеса на обучение на моделите.

„В началото се чувствах виновен. Или изобщо не гледам резултатите и избирам на случаен принцип, или умишлено избирам най-лошия вариант. Не знам доколко това изобщо има значение, тъй като резултатите от работата на невронната мрежа се оценяват от стотици други хора, но все пак възниква усещането, че ми плащат, за да влошавам работата на изкуствения интелект.“

призна един от тях

Експертите отбелязват, че някои AI модели вече са започнали да проявяват признаци на така наречения „колапс“ – ситуация, при която качеството на работата на изкуствения интелект, обучен върху текстове, създадени от друг изкуствен интелект постепенно се влошава. Иронията се състои в това, че хората, наети да предотвратяват подобни проблеми сами използват отговорите, генерирани от AI, за обучението на AI моделите на OpenAI.