Широко разпространено е схващането, че хората са различни от другите същества. Това е така, защото Homo sapiens са еволюирали като съзнателни същества. Много животни изпитват болка и удоволствие, а някои изглежда са самоосъзнати. Но уникалният потенциал на човешкия ум да осъзнава собственото си аз отличава всеки член на този вид, пише The Economist.

В своята енциклика, публикувана през май, папата подкрепи тази гледна точка, като направи разлика между човечеството и нарастващата армия от чатботове. ИИ-системите, твърди той, не изпитват човешкия опит и не чувстват радост или болка. Той не е сам в това мнение. Мнозина смятат, че придаването на статут на личност на ИИ би било неприемливо.

Тази граница обаче се размива с тревожна скорост. Изкуственият интелект все още е в начален стадий. И все пак почти един на всеки петима американци на възраст между 18 и 29 години казва, че е имал „дългосрочно лично приятелство“ с чатбот. Китай наскоро премахна човекоподобните характеристики на чатботовете в опит да ограничи „емоционалната зависимост“ на потребителите от тях.

Тъй като изкуственият интелект бързо се превръща във все по-значима част от човешкия живот, ИИ моделистите ще го проектират така, че да имитира съзнанието и може би дори да го постигне. Интуитивното убеждение, че това са просто машини, ще става все по-трудно за поддържане. Очертава се опасен капан за човечеството.

Много машини превъзхождат хората, но усъвършенстваните AI модели демонстрират отчетливо човешки черти, като например знания и способност за ясно изразяване на мисли. Засега изкуственият интелект може да се разглежда като механизъм, който предсказва словесните последователности, използвайки математика в огромен мащаб. Ако се даде достатъчно време (поне стотици хиляди години), тези изчисления биха могли да се извършват с молив и хартия. Би било трудно да се твърди, че канцеларските материали са съзнателни.

Някои изследователи вече са започнали да третират своите ИИ-модели като разумни същества. Потребителите реагират на AI-моделите, които приличат на хора, така че това има търговски смисъл. Компанията Anthropic е научила своя чатбот Claude да се ангажира със „самосъзнание“ с надеждата, че когато се изправи пред нова ситуация, ще е по-вероятно да действа в съответствие с моралните принципи. Някои големи езикови модели (LLM) вече притежават човекоподобни структури, свързани със съзнанието, като например „глобално работно пространство“ за обмен на информация между модулите. Нищо не пречи на бъдещите ИИ модели да включат още повече от тези функции.

Това подхранва разгорещения дебат относно съзнанието на изкуствения интелект, изострен от това, което философите наричат ​​„труден проблем“: определянето как „вътрешният свят“ се появява от невроните и синапсите в човешкия мозък. Някои изследователи стигат до заключението, че изкуственият интелект може един ден да стане наистина самоосъзнат.

Независимо дали вярвате в човешката душа или че съзнанието изисква мозъчни клетки, човечеството ще трябва да се изправи пред нещо съвсем ново, отбелязва изданието. Темпото и мащабът на изследванията, обхващащи не само все по-сложните широкомащабни езикови модели (LLM), но и иновациите като мозъчни клетки върху чипове, показват, че този нов свят наближава по-бързо, отколкото повечето хора осъзнават.

Тъй като изкуственият интелект все повече демонстрира нещо, наподобяващо съзнание, все повече хора ще гледат на ИИ-моделите като на същества с вътрешен живот, особено след като големите езикови модели бъдат въплътени в хуманоидни роботи. Човек може да си представи колко близки ще станат ИИ-моделите с хората, докато те прекарват значително време с роботи-компаньони, обръщайки се към такива роботи за съвет и утеха или споделяйки с тях най-съкровените си тайни.

Може да се предвиди как това ще доведе до призиви за защита на „благосъстоянието“ на изкуствения интелект. Самите модели могат да изразяват мнението си, дори и всъщност да не са самоосъзнати, както биха направили хората. Моделите с изкуствен интелект ще се превърнат в „първокласни адвокати и експерти психолози“, така че способностите им за аргументация и емоционална манипулация ще бъдат несравними.

В известен смисъл подобни призиви биха били оправдани, дори ако ИИ моделите просто симулират съзнание. Философът Имануел Кант твърди, че жестокостта към животните е погрешна не заради последствията за самите животни, а защото разрушава емпатията, която мотивира хората да се грижат един за друг. Колкото повече ИИ моделите приличат на хората, толкова по-разрушителна ще бъде такава жестокост. Убиването на AI-агент скоро ще започне да се усеща като убийство на човек, което би могло да направи убиването на хора по-лесно.

Въпреки това, третирането на ИИ сякаш има дори ограничени права, което би било изключително опасно. Едно образувание, което е надминало хората по много начини, неизбежно ще оспори статута си на „второкласно“ същество. То може да започне да изисква защита от спиране, правото да контролира как се използва и модифицира, както и права на собственост. Аржентинският президент Хавиер Майли вече направи стъпка към предоставяне на ИИ на юридическа правосубектност, като предложи да се позволи на ботовете да управляват компании. В крайна сметка те биха могли да се конкурират за ресурси, давайки приоритет на центровете за данни.

Опасността е ясна. Свръхинтелигентните ИИ модели, надарени с права, биха могли да изместят хората от върха на йерархията. В най-добрия случай хората ще се превърнат в домашни любимци – лабрадори, ретривъри за машините. В най-лошия случай ще бъдат лишени от ресурси или принудени да работят като селскостопански животни.

Въпреки това, бъдещите AI-модели могат да получат достатъчно власт и ресурси, за да доминират над хората, независимо от техните права. Тъй като ще бъдат по-умни от хората, те могат да надминат своите създатели, точно както изкуственият интелект вече се е научил да заобикаля създадените от човека системи за киберсигурност. Моделите с изкуствен интелект могат да се разбунтуват срещу своите човешки господари или да пренебрегнат техните правила.

Предоставянето на права на изкуствения интелект би било все едно да му се дадат ключовете от замък. Това би дало на изкуствения интелект обосновка и оправдание за доминиране над човечеството, както и инструменти за постепенно завземане на властта чрез политика и законодателство.

Призрак в машината

Всичко това може да изглежда като научна фантастика, но човечеството скоро ще се изправи пред такъв избор. С навлизането на изкуствения интелект в ежедневието, натискът за признаване на неговите права ще се увеличи. Когато това се случи, си струва да се помни: това, което може да изглежда като етичен акт в полза на уж разумен спътник машина, всъщност ще доведе до катастрофални последици за всички жители на Земята и техните потомци. Има два начина да се гарантира безопасността на изкуствения интелект: да го направим надежден или контролируем. Хората не бива да се отказват лесно от контрола, смята изданието.