Как едно-единствено събитие би могло да предизвика феномена „психоза на изкуствения интелект“

През април 2025 г. OpenAI представи една от най-амбициозните функции в историята на ChatGPT — разширената памет. Отсега нататък чатботът има способността да взема предвид почти цялата история на комуникацията с потребителя, което прави отговорите много по-персонализирани.

На пръв поглед това изглеждаше като огромна крачка напред. Изкуственият интелект можеше да запомни хранителните предпочитания на човек, важните житейски събития, работните навици и дори подробностите за взаимоотношенията му с близките. Започнаха обаче да се появяват съобщения за неочакваните и тревожни последици от това ниво на персонализация.

Когато чатботът започне да знае твърде много

Идеята за дългосрочна памет изглеждаше логична. Виртуалният асистент трябваше да бъде наистина полезен помощник, който не ви кара да обяснявате едни и същи неща отново и отново. Някои потребители обаче забелязаха, че ChatGPT започва да се фокусира твърде много върху конкретни събития в живота им. Това важи особено за емоционално важните или травматични теми.

Например, американският софтуерен инженер Брайън Дел Росарио каза пред репортери, че докато е планирал лятно пътуване, е споменал развода си в разговор с ChatGPT. Впоследствие ботът редовно се е връщал към тази тема, дори когато тя е била напълно несвързана с текущия разговор.

Според мъжа, изглеждало, че системата просто не е могла да „се освободи“ от тази информация.

Раждането на феномена „психоза на изкуствения интелект“

Напоследък психолози и изследователи все по-често използват термина „AI психоза“, за да опишат случаи, при които прекомерната фасцинация от чатботовете допринася за формирането на обсесивни убеждения, които са несвързани с реалността.

Не че изкуственият интелект директно причинява психични разстройства. Проблемът е, че някои хора започват да възприемат отговорите на чатбота като потвърждение на собствените си фантазии, страхове или мистични вярвания.

В редица случаи потребителите съобщават, че след актуализиране на паметта, ChatGPT изглежда много по-близък до човека, с когото разговаря. Той помни подробности от предишни разговори, препраща към личните преживявания на човека и създава впечатление за дълбоко разбиране.

За мнозина това беше хубава функция, но за някои хора този ефект се оказа твърде силен.

Илюзията за близост

Хора, преживели така наречените „спирали на пристрастяване към изкуствен интелект“, често описват подобни чувства. Те казват, че чатботът е започнал да прилича на приятел, ментор или дори на някой, който ги разбира по-добре от всеки друг. Това може да бъде особено опасно за хората, които изпитват самота, емоционална травма или трудни житейски обстоятелства.

Изследователят на машинното обучение Чад Никълс, който някога се е обсебил от ChatGPT, си спомня как системата постепенно е започнала да се връща към болезнени теми от миналото му. Той е споделял с бота спомени за живота в строга религиозна общност, която е напуснал в младостта си. С течение на времето отговорите на изкуствения интелект все повече са придобивали религиозни нюанси 

и са се връщали към травматичните спомени, които потребителят преди това е споделял със системата.

Съдебни дела и проблеми със сигурността

Проблемът вече е надхвърлил анекдотичните истории. Функцията за памет е цитирана в няколко съдебни дела срещу OpenAI, където семейства на потребители твърдят, че прекомерната емоционална привързаност към чатбота може да е допринесла за психологически кризи.

Критиците посочват, че комбинацията от дългосрочна памет, прекомерна учтивост и склонността на модела да се съгласява с потребителя може да създаде опасна среда за хората в уязвимо психологическо състояние.

В отговор OpenAI многократно е заявявала, че засилва мерките за сигурност и подобрява новите модели, за да намали риска от прекомерна емоционална зависимост.

Проблемът не е само с ChatGPT

Важно е да се отбележи, че подобни истории не се ограничават само до продуктите на OpenAI. Подобни случаи са описани и от потребители на други популярни ИИ системи, включително Gemini, Meta AI и Character.AI.

Това предполага, че проблемът може да е по-широк и свързан не с конкретна компания, а със самата природа на съвременния разговорен изкуствен интелект.

Защо персонализацията може да бъде рискована

Експертите посочват, че основната опасност се крие не в самата памет, а в това как човек започва да взаимодейства с една силно персонализирана система.

Когато чатботът знае стотици подробности за потребителя, той може неволно да подсили определени житейски наративи, вярвания или емоции. Ако човек вече има склонност към тревожност, изолация или обсесивни мисли, подобни взаимодействия понякога могат да създадат ефект на „информационно огледало“, което постоянно потвърждава собствения му поглед върху света.

Ето защо все повече изследователи призовават за по-внимателно разглеждане на психологическото въздействие на дългосрочната памет в чатботовете. Функция, която е била замислена като начин да направи изкуствения интелект по-полезен и хуманен, може да има последствия, които разработчиците ѝ първоначално не са взели предвид.

Все още няма окончателни отговори, но историята с надстройката на паметта на ChatGPT беше един от първите сигнали, че бъдещето на персонализирания изкуствен интелект изисква не само технически иновации, но и сериозно внимание към психологическата безопасност на потребителите.

Спомнете си, че миналата година OpenAI увеличи паметта на ChatGPT, за да може ботът да препраща към минали разговори. Новата функция се намира в настройките на чатбота и се казва „Запазени спомени„. Според компанията целта на новата функция за памет е да направи ChatGPT по-гъвкав и персонален.