OpenAI възнамерява да направи ChatGPT по-малко податлив на автоматично съгласие от потребителите. Чатботът трябва не само да подкрепя събеседниците, но и да посочва грешките, да оспорва съмнителните твърдения и да предлага алтернативни гледни точки. Това съобщава PCWPlus.
Отбелязва се, че това е проблем, известен като „sycophancy“ или прекомерно самодоволство на изкуствения интелект. В такива случаи изкуственият интелект коригира отговорите според очакванията на човека, вместо обективно да оцени ситуацията. В резултат на това чатботът може да потвърди погрешни заключения на потребителя или без достатъчно основания в подкрепа на мнението му.
”Собствените измервания на OpenAI показват, че GPT-5 е постигнал значителен напредък в тази посока. В целевите тестове процентът на одобрение е спаднал от 14,5% в GPT-4o до по-малко от 6%. Броят на случаите на прекомерно съгласие (с потребителите) е намалял с 69% за безплатните потребители и със 75% за платените абонати в сравнение с предишния модел”. – се казва в статията.
Посочва се също, че тези промени са особено важни за хората, които се обръщат към изкуствения интелект за съвет по лични въпроси, за разрешаване на конфликти или емоционална подкрепа.