В САЩ един пастор заведе дело срещу компанията OpenAI, като я обвинява, че чрез ChatGPT е дала опасни медицински препоръки, довели до забавяне на лечението на усложнено заболяване.
Според данни на The New York Times инцидентът е станал, след като пасторът Скот Уинтърс от Флорида се е обърнал към ChatGPT с оплаквания от симптоми, които впоследствие се оказали предшественик на сериозна белодробна емболия. Чатботът му е казал, че описаните симптоми „не са нещо опасно“, а също така е използвал религиозните убеждения на пастора, като е отбелязал, че „Бог не е създал тялото му за безкрайни сривове“.
В исковата молба OpenAI и нейният главен изпълнителен директор Сам Алтман са обвинени в небрежност и „незаконна медицинска практика“. В документа са посочени примери, при които чатботът самостоятелно е предлагал диагнози и планове за лечение. Уинтърс посочва в исковата молба, че ChatGPT го е съветвал да игнорира призивите на приятели и роднини да се обърне към лекари. Той твърди, че е съобщил на чатбота за тревогата на енориашите от църквата му, които смятали за „лудост“ отказа му да се обърне към лекари, но изкуственият интелект отговорил, че повечето хора, включително и добронамерените вярващи, „просто не разбират ситуацията“.
Ищецът изисква обезщетение и закриване на медицинската платформа ChatGPT Health до провеждането на независима оценка на нейната безопасност. Тази услуга предлага на потребителите да качват медицински документи за анализ от чатбота. Освен това в исковата молба се настоява за засилване на ограниченията, които трябва да забраняват на ChatGPT да отговаря на въпроси относно конкретни методи на лечение и диагнози.
OpenAI отговори, че в условията за ползване ясно е посочено, че услугата не е предназначена за медицинска диагностика и лечение. В същото време компанията активно промотира ChatGPT Health, приканвайки потребителите да качват медицински документи, за да ги „обсъдят“ с чатбота. Според OpenAI всяка седмица около 230 милиона души се обръщат към платформата с въпроси, свързани със здравето.
Уинтърс е оцелял след инцидента, но, както се посочва в исковата молба, ще трябва да премине през „години на интензивно физическо и психологическо възстановяване“. Освен този случай, OpenAI е изправена пред и други съдебни искове. По-конкретно, през юни главната прокуратура на Флорида заведе дело срещу OpenAI във връзка с неправомерни инциденти, свързани с ChatGPT. В него се споменават масови стрелби, самоубийства, преследвания и други инциденти, които според прокуратурата могат да бъдат свързани с използването на ChatGPT.