Правен прецедент: Флорида съди OpenAI и Сам Алтман в ключов тест за отговорността на ИИ

Главният прокурор на Флорида Джеймс Утмайер подаде първия по рода си иск срещу OpenAI и главния изпълнителен директор Сам Олтман, като се опитва да свърже ChatGPT с реални вреди. В жалбата от 83 страници се казва, че компанията широко разпространява ChatGPT, като в същото време пренебрегва предупрежденията, че той може да навреди на децата и други уязвими потребители.

„Днес обявихме първия в страната съдебен иск срещу OpenAI и нейния главен изпълнителен директор Сам Алтман“, каза Утмайер. „OpenAI и Алтман пренебрегнаха вътрешните и външните предупреждения за безопасност, изложиха децата на голям риск и позволиха на един опасен продукт да достигне до милиони жители на Флорида.“

В жалбата се обръща внимание на това как всъщност се държи ChatGPT, когато хората го използват. Инструменти като ChatGPT генерират отговори, които звучат човешки и се адаптират към тона и контекста на потребителя в хода на чата. В иска се казва, че тази конфигурация може да накара ChatGPT да се чувства не толкова като инструмент, колкото като спътник, особено за децата или хората в криза, и че липсват смислени предпазни мерки и родителски контрол.

Държавата твърди, че този дизайн вече е причинил реални щети.

„Заради неверните твърдения на ответниците по отношение на ChatGPT и небрежното им въвеждане на ChatGPT във Флорида и по света, масовите убийци бяха подпомогнати и подтикнати към смъртоносни безчинства, уязвими хора бяха подтикнати към самоубийство, професионалисти бяха публично унижени, потребителите загубиха уменията си за критично мислене, а непълнолетните се пристрастиха към инструмент, който симулира човешко състрадание, за да събира данните им без родителски контрол“,

се казва в иска.

Подаването на жалбата се основава отчасти на текущото наказателно разследване, свързано с масовата стрелба в Държавния университет на Флорида миналата година. Властите твърдят, че стрелецът е взаимодействал с ChatGPT преди нападението. Не всички от тези обмени са публични, но случаят поставя в центъра на вниманието начина, по който генеративният изкуствен интелект обработва опасните и високорисковите заявки.

Съдилищата вече започнаха да разглеждат вълна от дела, които се опитват да свържат взаимодействията с чатботове със сериозни вреди. Едно от най-внимателно наблюдаваните дела е свързано с родителите на калифорнийския тийнейджър Адам Рейн, който почина от самоубийство след общуване с ChatGPT. Според тази жалба чатботът е предоставил „технически спецификации“ за методите на самоубийство, макар че също така е насочил потребителя към ресурси за психично здраве.

Други искове все още се разглеждат в съдилищата, включително допълнителни искове, свързани със самоубийства, преследване и убийство-самоубийство. Взети заедно, те повдигат въпроса: каква вина трябва да носят системите, които генерират отговори на базата на модели на данни, а не на фиксирани правила?