Води ли ни изкуственият интелект към апокалипсис и може ли да бъде избегнат той?

План за спасяване на света е разработен от малка група изследователи, по-конкретно млади футуролози и анализатори на рискове от нестопанската изследователска организация AI Futures Project. Той не се отнася ни най-малко до глобалното затопляне или опасността от ядрена война. За разлика от споменатите рискове, феноменът, който те разглеждат е много по-актуален, тъй като може да завърши катастрофално още в следващите 10 години. Организацията предлага нов поглед върху проблема с бързото развитие на изкуствения интелект, което може да доведе до появата на така наречения „суперинтелект“, който е по-развит по-ефективен и по-мощен от всеки човек.

В обширната си статия от 90 страници, която са публикували на препълнен с хипервръзки уебсайт, учените подробно описват своето отношение към AI апокалипсиса. Той ще възникне преди всичко поради появата на Суперинтелект. Те предполагат, че това същество, от каквато и страна да го погледнем във всеки случай ще бъде опасно. Поради това появата му трябва да бъде спряна предварително, превантивно.

Какво е „суперинтелект“ и защо е опасен той?

Както пишат авторите, „суперинтелектът означава системи с изкуствен интелект, които значително превъзхождат най-добрите хора във всичко, като в същото време са по-бързи и по-евтини“. Оттук логично следва, че такива AI системи ще бъдат по-евтини и по-бързи от хората, а това повдига големи въпроси за това дали изобщо е възможно появата на такива машини. Авторите смятат, че те безспорно са възможни. Темповете на развитие на технологията през последните години са толкова високи, че екстраполацията на данните от миналите години дава възможност на изследователите да предположат, че това е доста реалистичен резултат.

Авторите отбелязват, че към момента компаниите, занимаващи се с изкуствен интелект все още не са в състояние напълно автоматизирано, независимо от човешки контрол да създават системи с изкуствен интелект. Все още по-голямата част от задачите по разработката се изпълняват от хора, но всички се стремят към това тази работа също да се извършва от изкуствен интелект. Когато това се случи, тогава ще започне процесът на навлизане в началните етапи на разработката на суперинтелект. С автоматизацията чрез изкуствен интелект това ще се случи по-бързо, отколкото си мислим.

Суперинтелектът ще има множество предимства пред хората. По-развити умения, по-ефективни резултати, познания в различни области. Най-добрите човешки професионалисти ще загубят способността си да се конкурират със системата, тъй като тя ще прави всичко изброено по-бързо, по-евтино и с по-високо качество.

Най-важното е въпросът за контрола над тази машина. Кой ще я управлява? Ако тя е независима от човешките заповеди, това несъмнено ще изложи човечеството на риск от изчезване или умишлено намаляване на популацията. Ако тя ще служи на някого или ще се подчинява на господарите си, тогава въпросът е не по-малко ужасяващ: към кого точно ще бъде насочена лоялността на машината, която притежава подобни свръхчовешки способности?

Могат да се откроят няколко общи опасности, свързани с липсата на контрол върху хипотетичния суперинтелект. Сред тях най-интересният е въпросът за прекомерната концентрация на власт в ръцете избрани хора, а именно на онези, които ще бъдат господари на суперинтелекта, което ще им позволи да вършат различни зли дела.

Например, такъв високоразвит AI може да доведе до възникването на политическа диктатура в някоя страна и да поробва местното общество. Въпреки това, правителствената диктатура е само половината от проблема, тъй като съществува вероятност и за точно обратното – като концентрация на властта в ръцете на AI корпорациите, олигарсите и лудите учени, които разработват тези машини. Не трябва да се изключва и „нечовешки“ край на историята. Със същия успех новото, почти мислещо същество (суперинтелектът) може да стане автономно и да започне да потиска човечеството. Не защото е зъл кръвожаден диктатор, а поради липсата на морални граници, неразбирането на необходимостта от съществуването на хората, банална грешка в изчисленията. Или напълно технократично отсъствие на грешки: „всички проблеми на хората ще бъдат решени, ако самите хора вече ги няма“. Авторите смятат, че AI хипотетично е способен не да унищожи цялото човечество, а да остави част от субектите, тъй като това може да му се стори „просто по-евтино или по-ефективно“ и т.н.

План А: малък шанс за спасение от необмислената жажда за технологии

AI Futures Project създаде документ, който съдържа различни начини за решаване на посочения проблем. В него също така се представят прогнози и предвиждания за бъдещето. Въпреки това самият текст се позиционира по-скоро като план, проект на препоръки за държавното управление, а не като истинска научна прогноза. Оттук произтича и жанровият характер на статията: тя е написана като набор от разклонени сценарии за развитие на събитията, като за всеки от тях може да се „кликне“ на сайта, за да се премине директно към съответния сценарий.

Работата представя както антиутопията на бъдещето, така и напълно утопични начини за предотвратяването ѝ и последствията от това. План А – основната препоръка, която авторите предлагат. Тя е най-позитивната и представлява това, към което би трябвало да се стремим.

Той започва с преговорите през 2029 гoдина. Именно тогава двете суперсили, които са достигнали невероятни висоти в областта на AI трябва да започнат преговори относно регулирането на развитието на изкуствения интелект и неговото последващо прекратяване. Те непременно трябва да започнат, ако страховете от загуба на контрол над AI станат още по-силни. Китай и САЩ ще започнат с малки стъпки.

Първо двете страни ще споделят информация за собствените си изчислителни мощности. Данните ще могат лесно да бъдат проверени, тъй като се отнасят до броя на центровете за данни и обема на продажбите на чипове за изкуствен интелект. Тъй като производството на чипове за изкуствен интелект в света се осъществява само в няколко държави (САЩ, Китай, Тайван и Южна Корея), данните лесно ще могат да бъдат проверени. Всяка страна ще има възможност да проверява веригите за осигуряване на ИИ-мощности чрез експерти, подобно на контрола върху броя на ядрените бойни глави. Участниците в споразумението ще докладват публично за своите покупки на ИИ-оборудване.

Проблемът с Китай: как да се спре надпреварата в областта на AI

Авторите споделят едно неочаквано, но рационално предположение и по отношение на Китай. Съществува мнение, че Китай се опитва с всички сили да настигне САЩ в надпреварата за възможностите на изкуствения интелект и следователно няма да се спре пред нищо, за да постигне тази цел. Подобно разсъждение се използва като аргумент в подкрепа на тезата, че САЩ определено трябва да инвестират още повече в развитието на AI (чрез отделни корпорации, които сътрудничат на правителството). Ако обявените предупреждения бъдат пренебрегнати, Китай може да победи, оставяйки Америка за дълго настрана от историята. Най-големият хегемон е изправен пред риска да загуби собствения си статут и сигурност поради укрепването на по-силен опонент. Това не може да бъде допуснато.

Всъщност, според авторите на, в тези прогнози не се взема предвид мнението на самия Китай. Колкото и опасен да е опонентът, той също се страхува от бъдещото технологично развитие на AI. В Китай постоянно се водят дебати относно рисковете за сигурността, етичните и футурологичните прогнози за това как ще еволюира изкуственият интелект. Какви проблеми ще донесат с него. Те не по-малко от американците са загрижени за перспективата за безработица и изчезването на познатия начин на живот.

Освен това, по отношение на изкуствения интелект Китай засега не разполага с предимство, колкото и силно да желае да изпревари САЩ в тази област. Според изследователите, напълно възможен изход за участниците от ситуацията на потенциален AI апокалипсис е споразумение между двете суперсили за взаимно разкриване на изследванията, прекратяване на надпреварата и съвместно, контролирано развитие на посочените технологии.

Подобно нещо ще стане възможно, ако държавите се съгласят на глобално споразумение по подобие на Договора за неразпространение на ядрено оръжие. Китай вероятно ще подкрепи тази инициатива, тъй като в надпреварата в областта на ИИ очевидно има по-малки шансове за успех, отколкото САЩ. Балансът на силите не е на тяхна страна, затова за противника е изгодно временно да спре състезанието, като започне взаимни контролирани научни изследвания в тази област. Това е класическа ситуация, от която всички печелят, и в която няма окончателни губещи. В нея, според участниците в противостоянието, липсват причини да се доведе процесът до взаимно унищожение или дори до изчезване на цялото човечество.

Реализъм и утопизъм на План А

След това споразумението ще премине към следващия етап: временно прекратяване на обучението на нов AI. Участниците ще допускат използването само на съществуващите AI модели. Създаването на нови ще е забранено. Освен посочените гиганти, към споразумението ще се присъедини и останалият свят. Това ще даде възможност да се бъдем сигурни, че някакви оскърбени държави няма да се опитат да създадат своя собствена „AI бомба“. До 2030 година ще се извършва преустройство на световната парадигма за развитието на изкуствения интелект. Всички са съгласни с основните общодържавни тези:

Забавяне. Човечеството получава време до 2040 година, за да разбере какво изобщо да прави с изкуствения интелект. Пълна прозрачност на изследванията. Участниците в областта на AI публично споделят помежду си и със света своите разработки в тази сфера. Това ще позволи да се избегне необходимостта от участие в AI надпреварата, като се създадат благоприятни условия за безопасни технологични открития. Разпространение на продуктите, свързани с изкуствения интелект. Технологията вече няма да бъде патентована и секретна. Поради това на пазара ще има все повече участници, което ще доведе до засилване на конкуренцията и, в крайна сметка, до намаляване на концентрацията на власт в ръцете на няколко от най-големите корпорации. Взаимност. Така авторите наричат принципа на „Взаимно гарантираното унищожаване на изчислителните мощности“. Това е доктрина, съгласно която изчислителните мощности на AI ще се разполагат на неутрални територии на трети държави, а не при най-големите участници. Така например китайските изчислителни мощности могат да бъдат съсредоточени в Канада, а американските – в Монголия. В случай на избухване на война или нарушаване на споразумението ще съществуват механизми за физическо унищожаване на всички изчислителни мощности на конкурента.

Всъщност с това приключва реалистичната част от плана и започва истинската научна фантастика. Авторите смятат, че при такъв подход бъдещето ще се промени. От апокалипсис ще преминем към истинска утопия. Първо ще започне икономическа трансформация с помощта на роботи и изкуствен интелект: те ще работят, а хората ще се ползват от плодовете на труда на машините. Колкото повече се развиват технологиите, толкова по-малко хората ще страдат от съвременните проблеми, болести, престъпност и т.н. По-късно развитието на изкуствения интелект ще спре на нивото на безопасни роботи, които притежават компетенциите на най-добрите човешки експерти. Милиони подобни изследователи ще разглеждат въпросите за връзката между изкуствения интелект и алтруизма, служенето на човечеството и етиката. Ще разработват протоколи за безопасност и други предпазни мерки срещу въстание на машините.

2040 година ще бележи достигането на такова ниво на благоденствие, че човечеството доброволно ще премине под управлението на изкуствения интелект. Хората ще започнат да го слушат и ще му предоставят достъп до системите за управление на държавата, военните обекти и технологиите. В крайна сметка забраната за развитие на суперинтелекта ще бъде отменена. Тогава човечеството самостоятелно, вече подготвено, ще навлезе в нова епоха на своето съществуване, въпреки опасенията относно вероятността суперинтелектът да завземе властта и да доведе света до поредна катастрофа.

Фантазия или нови ценности?

Каквото и да е, този сценарий е най-оптимистичният и, съответно, най-утопичният от всички, представени от организацията. Алтернативите на План А са много по-ужасяващи, тъй като ще доведат до глобални войни, загуба на контрол и абсолютна диктатура. Именно затова те са по-реалистични от План А. По някакъв начин този утопичен сценарий напомня модернистичните мечти на футуролозите и фантастите от началото на 20-и век, които измисляха почти приказни варианти за следващите 100 години. Както знаем, много от тях не се сбъднаха и дори нямаха никакъв шанс да се сбъднат при тогавашните обстоятелства.

AI Futures Project не са искали да направят научна прогноза, като изработят точна механика на бъдещите действия. На първо място те са искали да покажат вектора на мисълта – накъде точно трябва да се движим в условията на несигурност в нашия живот. В свят, в който никой не знае какво да прави по-нататък, подобни размисли-сценарии са изключително важни за формирането на ценностите на обществото. Това е етичен наратив на всичко най-важно, което трябва да въплъти един правилен проект за изкуствен интелект. Той разполага с набор от цели, условия за решаване на проблеми, както и списък с желани мечти, които трябва да бъдат постигнати. Той представлява своеобразна конструкция, върху която се крепи къщичката на нашите надежди по отношение на технологията за изкуствен интелект.

Дали силните на този свят ще го следват, или просто ще го хвърлят в кошчето – това вече е друг въпрос. На него трябва да отговори обществото на всяка страна със своите конкретни действия. А вие какво мислите по темата с развитието на изкуствения интелект. Споделете в коментарите.