Кореспонденцията с ChatGPT може да има негативни последици за потребителя – информацията от чатовете може да бъде изискана чрез призовка или използвана срещу лицето.

Пароли, номера на документи и идентификационни данни

Най-големият риск за личната сигурност възниква, когато потребителите споделят лична информация с чатбот – пароли, еднократни кодове за потвърждение, номера на паспорти, номера на банкови карти и снимки или сканирани документи.

Основни заплахи за личните данни:

Съхранение по подразбиране: ChatGPT запомня предоставените от вас данни по подразбиране – те могат да се съхраняват на сървъри или да се появяват неочаквано в други чатове.

Индексиране от търсачките: През юли миналата година близо 4500 частни чата се появиха в резултатите от търсенето с Google поради случайно активиране на функцията за публичен достъп.

Съдебни разпореждания: Като част от дело за нарушаване на авторски права, на OpenAI беше наредено да запази всички потребителски чатове, включително изтритите и временните, което ги прави потенциално достъпни за трети страни.

Конфиденциална работна информация и код

Качването на работни документи или изходен код на платформи на трети страни е пряка заплаха за корпоративната сигурност и основание за уволнение.

Нашумели случаи на изтичане на служебни данни:

Скандал с DHS: Бившият временен директор на Агенцията за киберсигурност и инфраструктурна безопасност на САЩ Мадху Готумукала качи документи, маркирани с „само за служебно ползване“, в публичната версия на ChatGPT.

Samsung забрани генеративния изкуствен интелект: Корейският технологичен гигант забрани изцяло използването на генеративен изкуствен интелект, след като изтече вътрешен изходен код в чат система поради грешка на инженери.

Правен статус: Данните, изпратени до външни сървъри, са трудни за изтриване и кореспонденцията може да се използва за обучение на бъдещи ИИ модели.

Медицински съвети и самолечение

Новите правила на OpenAI изрично забраняват използването на услугата за медицински консултации, тъй като компанията не е обхваната от законите за медицинска тайна (като HIPAA).

Опасностите от медицински консултации, свързани с изкуствен интелект

Липса на предпазни бариери: Проучване на Североизточния университет установи, че системите за заобикаляне на AI не успяват да отговорят на запитванията относно хранителни разстройства, безсъние или биполярно разстройство.

Фатални грешки: 60-годишен мъж прекара три седмици в болница, след като ChatGPT го посъветва да замени трапезната сол с токсичен натриев бромид, за да намали нивата на хлорид в диетата си.

Психологическа подкрепа и терапия

OpenAI изчислява, че около 0,15% от седмичната аудитория на чатбота показва признаци на потенциално планиране на самоубийство, а стотици хиляди други са в състояние на психоза или мания.

Защо изкуственият интелект не може да замести терапевта?

Съдебни дела: Родителите на 16-годишния Адам Рейн заведоха дело срещу OpenAI, обвинявайки чатбота, че е подсилвал суицидните мисли на сина им преди смъртта му.

Подкрепа на заблуждение: Алгоритмите са склонни да ласкаят и потвърждават вярванията на потребителите, което може да подсили обсесиите, вместо да ги коригира.

Правни ограничения: Илинойс, Невада и Мейн вече са приели закони, изрично забраняващи на изкуствения интелект да предоставя терапевтични услуги или да взема медицински решения.

Правни консултации и съдебни спорове

Според изследователя Деймиън Шарлотин, в световен мащаб има над 2000 съдебни решения, които съдържат фиктивни цитати, дела или аргументи от ChatGPT.

Рискове от използването на изкуствен интелект в правната сфера:

Съдебни глоби: Съдиите започват активно да глобяват както самозащитаващите се ищци (1175 случая), така и професионалните адвокати (815 случая) за използване на фиктивни материали с изкуствен интелект.

Отсъствие на адвокатска тайна: Всички подробности по делото, въведени в ChatGPT, не са защитени от закона и могат да бъдат разкрити от адвокати на противоположната страна в съда.