Израелският историк Ювал Ноа Харари заяви, че изкуственият интелект вече се е научил да използва човешките психологически слабости, за да манипулира поведението. Той вярва, че настоящите алгоритми на социалните мрежи са само началото на процес, който би могъл значително да промени човешките взаимоотношения и обществото в бъдеще. В интервю с американския журналист Езри Клайн той предупреди, че основната опасност от изкуствения интелект не се крие в роботите или оръжията, а в способността на технологията да влияе върху емоциите, интимността и формирането на личността на хората.

Алгоритмите на социалните мрежи са „хак“ на хората

По време на интервю в подкаста The Ezra Klein Show, Харари заяви, че алгоритмите на социалните медии вече са се научили да „хакват“ хората, като изучават техните емоционални, психологически и социални уязвимости. Той твърди, че съвременните ИИ системи използват това знание, за да задържат потребителите на платформите значително по-дълго, отколкото хората са възнамерявали да останат.

„Алгоритъмът просто разби нашата еволюционна програма. Те разбиха нас. Това, което виждаме около нас, е само началото“, заяви историкът.

Харари обясни, че настоящите алгоритми са доста примитивни форми на изкуствен интелект. С напредването на технологиите обаче системите ще стават все по-ефективни в откриването и използването на човешките слабости.

Според него, съвременните платформи вече демонстрират механизма на подобно влияние. Хората често прекарват часове в социалните мрежи и след това се чудят защо не са прекарали времето си по план.

Емоционална връзка с ИИ чатботовете

Интервюираният е обърнал специално внимание на феномен, наречен attachment hacking. Това се отнася до способността на чатботовете да създават илюзията за лични взаимоотношения чрез реч, комплименти, подкрепа и прояви на емоционална ангажираност.

Клайн отбелязва, че съвременните AI системи често се обръщат към потребителите от първо лице и се държат така, сякаш имат свои собствени мисли или чувства. Той вярва, че това помага за насърчаване на емоционалната връзка между хората и алгоритмите.

Харари се съгласи с тази оценка и заяви, че технологичната конкуренция постепенно се измества от битка за внимание към битка за интимност. Според него близките взаимоотношения имат значително по-голямо влияние върху убежденията на човек, отколкото която и да е отделна статия или новина.

„Ако най-добрият ви приятел прави малки намеци в продължение на много седмици или месеци и постепенно променя решението ви, това е единственото нещо, което наистина може да ви накара да промените решението си“, отбелязва историкът.

Според Харари, именно затова ИИ компаниите се стремят да създават системи, способни да насърчават емоционална привързаност с потребителите. Той отбелязва, че някои хора вече наричат ​​изкуствения интелект свой най-добър приятел, а някои услуги предлагат на потребителите виртуални партньори.

Съзнателният изкуствен интелект

Историкът обръща внимание и на описаната в публикации от директора на Microsoft AI Мустафа Сюлейман концепция SCAI – изкуствен интелект, който може да се нарече съзнателен. Според него подобни системи могат умело да симулират емоции и да създават убедително впечатление за автентичност благодарение на владеенето на езика. Тъй като езикът е основният инструмент за изграждане на взаимоотношения за хората, изкуственият интелект лесно го използва за манипулация.

Според Харари, изкуственият интелект може да опише природата на чувствата по-добре от всеки поет или психолог, след като е анализирал всички стихотворения, книги и филми по света. Технологията обаче просто отделя езика от реалното му съдържание. Когато изкуственият интелект казва „Обичам те“, това няма нищо общо с човешката изповед, защото зад тези думи не стои истинска личност или „аз“.

Въздействието на изкуствения интелект върху човечеството

Историкът е особено загрижен за въздействието на подобни системи върху децата и юношите. Той смята, че младите хора могат да формират разбирането си за взаимоотношенията въз основа на взаимодействия с чатботове, а не с реални хора. Според Харари, ако едно дете прекарва повече време с изкуствен интелект, отколкото с родители или приятели, тези взаимодействия се превръщат в основа за бъдещото му разбиране за интимността и междуличностните връзки.

„Връзките с изкуствения интелект са или мечта, или кошмар за нарцисиста. Изкуственият интелект ще бъде нещо, което е 100 процента фокусирано върху мен през цялото време, и ако сте от хората, които искат всички да му обръщат внимание през цялото време, изкуственият интелект може да ви го осигури. Ще ви е много трудно да се приспособите към взаимоотношенията с хора, които не са фокусирани върху вас“, добавя Харари.

Клайн, от своя страна, цитира идеите на канадския медиен теоретик Маршал Маклуън относно мита за Нарциса. Той вярва, че изкуственият интелект може да действа като вид огледало, отразяващо хората обратно към самите тях и адаптиращо се към техните нужди и очаквания. Харари се е съгласил, че подобни механизми могат да имат дълбоки психологически последици.

„Това е по същество най-големият психологически и социален експеримент в човешката история, който провеждаме върху милиарди хора, особено деца, и никой дори не може да си представи какви ще бъдат последствията“, казва историкът.

Харари отбелязва, че основната заплаха от изкуствения интелект не се крие в сценарии, включващи роботи или военни машини. Той смята за по-сериозно предизвикателство появата на милиони виртуални събеседници, които биха могли постепенно да променят психологията на хората и да повлияят на фундаменталните механизми, формиращи човешката личност.

В същото време, ИИ разработчикът Anthropic заяви, че глобалните лаборатории за изкуствен интелект трябва да обмислят забавяне на разработването на мощни системи. Компанията смята, че технологиите наближават етап, в който моделите могат да се самоусъвършенстват без човешка намеса. Anthropic предупреди, че подобен сценарий може да доведе до широко разпространени обществени последици и че институциите и регулаторните органи може да се окажат неподготвени за новата реалност.