Погрешната информация в разказ, създаден от изкуствен интелект може да промени спомените на човек за видяното, показа проучване на учени от университетите в Джорджтаун и Вашингтон в САЩ. Това поставя под съмнение широко разпространената практика, според която човек трябва да проверява и коригира резултатите от работата на AI, пише Gizmodo.

В експеримента са участвали 328 възрастни от САЩ. Те са изгледали 25-секундно видео на автомобилна катастрофа, а на следващия ден са прочели описание, създадено с помощта на ChatGPT. Текстът е посочвал правилно или погрешно какъв пътен знак е имало на кръстовището – „Стоп“ или „Дайте път“.

След точния преразказ 83,6% от участниците са си спомнили правилния знак. Сред хората, които са прочели текст с невярна подробност само 44,8% са успели да дадат правилен отговор. Разликата се запази, независимо дали на участниците беше казано, че преразказът е създаден от човек или от AI. В групата, в която се е смятало, че погрешният преразказ е дело на AI, 46,3% от хората са отговорили правилно. Сред онези, на които същият текст е бил представен като написан от човек показателят е бил 43,4%. Следователно експериментът потвърди влиянието на невярната информация върху паметта, но не доказа, че именно AI я прави по-убедителна от човешкия текст.

Изследователите също така са помолили ChatGPT и Gemini да опишат два кратки видеоклипа. Всичките 20 получени описания са съдържали от 7 до 21 грешки, а средно AI моделите са пропуснали 51,6% от важните детайли. В 95% от текстовете не се е споменавало и централното събитие – сблъсъкът на автомобил с пешеходец.

Резултатите са особено важни за областите, в които изкуственият интелект се използва за изготвяне на доклади въз основа на видео или аудиозаписи, по-специално в полицията и медицината. Човекът, който проверява такъв документ, може не само да пропусне грешката, но и по-късно да я възприеме като свой собствен спомен.

В същото време изследването има ограничения. Анализът на AI моделите е обхванал само два кратки анимирани клипа, а в експеримента се проверяваше влиянието на един невярен детайл. Разказът, показан на участниците също беше подбран след няколко запитвания към ChatGPT и допълнително редактиран.