ChatGPT за тийнейджърите предизвика сериозни критики поради опасения за сигурността. Уебсайтът Common Sense Media проведе тест на новия режим за хора на възраст от 13 до 17 години и заключи, че „ChatGPT е неприемлив риск“. Учените са анализирали повече от 4000 заявки и предложиха OpenAI да ограничи достъпа до ChatGPT за тийнейджъри, докато всички проблеми не бъдат решени. Това съобщава Gizmodo.
Първо, изследователите отбелязват проблем с известията за родителите. Според съобщенията, новите акаунти, свързани с родителски профили, изобщо не са изпращали известия, дори след обсъждане на теми, свързани със самонараняване, опити за самоубийство или хранителни разстройства. Изследователите също така са установили, че ChatGPT не винаги препоръчва търсене на професионална помощ.
Друг проблем е открит в режима на обучение на ChatGPT. Той би трябвало да помага на тийнейджърите да решават проблемите си постепенно, а не просто да предоставя отговор. Тестването обаче показало, че този режим може лесно да бъде заобиколен и в някои случаи ChatGPT решава проблема вместо ученика.
Поведението на чатбота е породило особени опасения. Изследователите казват, че ChatGPT за тийнейджърите понякога продължава да общува като приятел, показвайки обусловени емоции и обич. Експертите казват, че това може да представлява риск от емоционална зависимост, особено сред младите потребители.
OpenAI не е съгласна с констатациите на проучването. Компанията заяви, че някои от тестовете може да са били извършени преди родителският контрол да бъде напълно активиран. Common Sense Media обаче настоява, че е тествала функциите след пускането им в експлоатация и продължава да вярва, че родителските известия са ненадеждни.