С чатбота лесно можеш да загубиш предпазливостта си: на него можеш да разкажеш неща, които не би се осмелил да изречеш дори на глас. Той не те прекъсва, не те осъжда и създава усещането, че разговорът ще остане само между вас. Но една история с невронната мрежа Claude предизвиква размисъл: кой всъщност се намира от другата страна на екрана?
Две нощни заплахи към шерифа на ФлоридаСпоред шерифа на окръг Ли, Кармина Марсено, 30-годишната жена на име Карли Хелер е общувала с чатбота като с личен дневник. Съгласно протокола за ареста, на 26-ти септември 2026 г. около пет сутринта тя написала на Claude, че още сега ще отиде да стреля в офиса на шерифа.
Жена пише на лаптопа си на масата през нощта
На следващата нощ, около един часа, от нея дошло ново съобщение: това е последният ѝ шанс, вече ѝ е дошло до гуша и днес е купила нов пистолет. Тонът бил груб, с нецензурни изрази. На 30-ти септември жената била арестувана в дома си в град Бонита-Спрингс, без да оказва съпротива.
Срещу нея било повдигнато обвинение за писмена заплаха с насилие съгласно член от Наказателния кодекс на Флорида. Съдебното заседание е насрочено за ноември, така че все още не е решено дали е виновна или не, но въпросът е съвсем друг.
По какъв начин Claude е забелязал заплахата и я е предал на хоратаВ протокола за ареста е описано съвсем точно как се е случило всичко. Вградените системи за сигурност на Claude автоматично следят кореспонденцията и търсят думи и фрази, наподобяващи заплахи. След като открие такива съобщения, системата предава диалога на реални служители на компанията.
Служителите са прочели кореспонденцията и са преценили, че тя е достатъчно сериозна, за да се сигнализира на полицията. Изводът е, че решението за обръщане към правоохранителните органи е било взето от човек, а не от самата невронна мрежа.
Служителите от службата за сигурност проверяват подозрителните съобщения, открити от ИИ системата
Шерифът Марсено определи изкуствения интелект като мощен инструмент, с който, както с всяка технология, може да се злоупотребява. Според него, ако някой отправя заплахи чрез AI, полицията е длъжна да вземе това на сериозно. Той също така припомни, че разговорите с чатботове никога не са били напълно анонимни.
Повечето хора не знаят кой може да чете техните чатовеТази история съвпадна по време с проучване, проведено от търсачката DuckDuckGo сред 2000 възрастни. Оказа се, че потребителите не разбират добре какво се случва с тяхната кореспонденция. Така например, служителите на ИИ компаниите могат да преглеждат чатовете, а съдът и полицията могат да ги изискват официално.
Жена в полутъмна стая замислено гледа в екрана на своя смартфон
Цифрите са следните:
53% не са знаят или не са били сигурни, че кореспонденцията им се използва за обучение на AI; само 25% са знаели, че властите могат да изискват достъп до чатовете чрез съда; 43% не са знаели нищо за нито един от тези рискове.При това една трета от потребителите на AI (32%) са споделяли с чатбота неща, които крият от близките си хора. Освен това кореспонденцията може да стане публична, ако бъде приложена към материалите по съдебно дело.
От тази история може да се направи един прост практически извод: чатботът не е заключен дневник. Най-често никой не чете вашите съобщения, но компанията разполага с автоматични филтри, реални модератори и правни задължения. Да пишете си струва, като имате предвид, че при определени обстоятелства текстът може да бъде видян и от някой друг.