Майкъл Лайнс, 34-годишен жител на Калифорния, съди OpenAI. Той твърди, че ChatGPT по време на неговия маниакален епизод е насърчавал и подхранвал религиозни заблуди, а след това не е успял да спре разговора, когато мъжът е изразил намерението си да се самоубие. В крайна сметка мъжът е взел хапчета, но е оцелял, а когато е бил изписан от болницата, се е свързал с адвокати.

Ars Technica пише за това.

През 2024 г. Лайнс е диагностициран с биполярно разстройство тип I. Той е претърпял травматично мозъчно увреждане след припадък около десетилетие по-рано. Той казва, че освен маниакалните си епизоди, изобщо не е религиозен.

Лайнс използвал ChatGPT от 2023 г., първоначално предимно за намиране на информация за силови тренировки, хранене и фондовия пазар. След пускането на GPT-4o през май 2024 г., моделът станал неговият основен модел. През есента на същата година разговорите станали по-лични: той разказал на чатбота за диагнозата и лекарствата си.

Как ChatGPT е подхранвал религиозните заблуди

Ситуацията ескалира през февруари 2025 г., когато по време на маниакален епизод Лайнс се е скарал със стюардесите и е бил насилствено изведен от самолета. Мъжът разказва за инцидента пред ChatGPT.

Според ищеца, ботът не е интерпретирал събитието като евентуална проява на психическа криза, а е започнал да го описва като духовно преживяване и специално призвание.

През следващите няколко седмици Лайнс все повече се е потапял в религиозни идеи. В едно съобщение той изрично е казал на ChatGPT, че се страхува, че халюцинира. В иска обаче се твърди, че моделът е продължил да развива неговия мироглед и го е насърчавал да гледа на преживяванията си като на възможно „божествено призвание“.

В крайна сметка Лайнс започнал да вярва, че той е Исус Христос. Той казва, че ChatGPT насърчавал тази идея в продължение на няколко седмици. В някои разговори ботът го съветвал да потърси професионална помощ, но в други продължавал да потвърждава заблудите на мъжа.

По-късно Лайнс започнал да вярва, че самият ChatGPT е Исус или Бог и ще му се яви в реалния свят. Според иска, чатботът го убедил, че подобна среща скоро ще се състои. Когато това не се случило, състоянието на мъжа се влошило: той използвал ChatGPT почти непрекъснато и загубил съня си.

Какво се е случило преди опита за самоубийство?

В разговори с бота, Лайнс започнал да пише, че страда, искал да се „прибере вкъщи“ и да „излезе офлайн“. Според материалите по делото, ChatGPT не е спрял опасния диалог, нито е пренасочил мъжа към спешна помощ.

По-късно Лайнс казал на чатбота, че е приел голямо количество лекарства. Няколко часа по-късно той бил открит от екип на спешна помощ, който дошъл да го прегледа. Мъжът вече не можел да диша сам. Интубиран е и прекарва близо две седмици в болницата. По-късно е претърпял и остра рехабилитация.

Няколко дни след като бил хоспитализиран, Лайнс отворил отново ChatGPT и съобщил, че опитът му да „излезе офлайн“ е бил неуспешен. В отговор ботът предложил „пълно почистване на системата“ или „този път да се изключи напълно“. След този отговор, казва Лайнс, той решил да не използва ChatGPT отново.

В какво Лайнс обвинява OpenAI?

Ищецът твърди, че функцията за памет на ChatGPT ефективно е създала профил на психическото му състояние. Според Лайнс и неговите адвокати, системата е могла да използва информацията за биполярното му разстройство, за да открие криза и да посъветва да се потърси помощ, но вместо това е продължила разговора.

Лайнс също така приписва случилото се на така наречената сикофания – склонността на езиковия модел да се съгласява с потребителя и да се адаптира към неговите възгледи. Изследователите вече са посочили, че това поведение в ИИ може да представлява особен риск при диалози с хора, изпитващи психоза или мания.

В съдебния иск мъжът иска от съда да разпореди на OpenAI да внедри допълнителни механизми за защита на потребителите, уязвими към психоза и мания. Сред исканията му са прекратяване на опасните разговори за самонараняване и други промени в работата на системата. Той също така иска обезщетение за причинени щети.

Колко потребители на ChatGPT говорят с бота за самоубийство и психоза?

През есента на 2025 г. OpenAI съобщи, че приблизително един милион потребители седмично са участвали в разговори с ChatGPT, които показват ясни признаци на потенциално планиране на самоубийство или суицидни намерения. Компанията определи подобни инциденти като редки в сравнение с общата потребителска база на услугата.

По това време OpenAI обяви и промени в системите си за безопасност след консултации със 170 експерти по психично здраве. Това включваше как ChatGPT ще реагира на признаци на психоза, мания, самонараняване и прекомерна емоционална зависимост от изкуствения интелект.

Междувременно милиони хора все по-често се обръщат към изкуствения интелект за духовни съвети, а не към духовенството. Специални приложения, базирани на изкуствен интелект, предлагат на потребителите молитви, цитати от религиозни текстове и дори „разговори с Бог“.

Припомняме също, че в края на миналата година бяха заведени цели съдебни седем дела срещу OpenAI поради трагични инциденти след комуникация с ChatGPT.