В подкаста на Джо Роган философът Ник Бостром заяви, че в следващите години светът може да се сблъска с един от двата сценария: или изкуственият интелект ще излезе извън контрол и ще постави цивилизацията на ръба на оцеляването, или ще автоматизира всичко, ще премахне бедността и ще отвори ерата на изобилието. Състезанието между САЩ и Китай за свръхинтелект ускорява процеса, а на човечеството остава все по-малко време да повлияе на изхода. Според Бостром до „появата на нещо безумно“ остават около четири години.
Първият сценарий е песимистичен. Бостром предупреждава: ако ИИ не бъде съгласуван с човешките ценности, той може да „излезе от релсите“ и да действа против нашите интереси. В този случай ще загубим контрол над собствената си съдба, а социалните и политическите институции ще се разпаднат. Вторият сценарий предлага положителна алтернатива — свят на „постинструментално“ изобилие. В тази утопия ИИ поема цялата рутинна физическа и интелектуална работа — бедността вече не съществува, настъпва икономика на безусловния базов доход. Човекът се освобождава от необходимостта да работи, а достъпът до материалните блага и съвременните медицински технологии става всеобщ.
Но дори и оптимистичният сценарий носи огромен риск — загубата на смисъл. Когато изчезне необходимостта да се борим за оцеляване, а знанията могат да се зареждат директно в мозъка, трудът и успехът губят стойността си. Обществото ще трябва спешно да преобразува културата си, да се научи да живее в условия на безкраен отдих и да търси нови ориентири в свят, в който вече няма за какво да се бори.
Бостром вижда в това нова възможност: без постоянни ежедневни грижи ще можем да разпознаем ценностите, за които сега сме слепи — естетиката, духовността, традициите, почитането на предците. На мястото на борбата за оцеляване ще дойдат игрите, творчеството и любопитството. Човечеството ще се върне към детското възприемане на света, но вече в мащаба на цивилизацията.
Пазарът на труда
Промяната на пазара на труда неизбежно ще изисква пълна реформа на образованието. Моделът от индустриалната епоха, който подготвяше дисциплинирани „винтичета” за работа в организациите, окончателно ще остарее, а дипломите ще загубят стойността си. Ще се появят милиони образовани, но безработни млади хора, способни да се превърнат в мощна политическа сила. Новата система на обучение, според Бостром, трябва да подготвя хората не за изпълнение на инструкции, а за изкуството да се живее: да търсят смисъл, да се занимават с творчество, спорт, приятелство и да развиват критично мислене.
Дълбоката трансформация ще засегне биологичната и моралната природа на човека. Нашата настояща биология ще се превърне в „тясно гърло“, затова хората ще трябва да се променят чрез генетика или прехвърляне на съзнанието, за да успеят да се справят с изкуствения интелект. Победата над стареенето ще даде възможност да се живее хиляди години и да се натрупва мъдрост векове наред.
Ще възникнат и етични въпроси: струва ли си генетично да „изключим“ алчността, лъжата и агресията? Ако премахнем страданията и инстинктите на приматите, животът може да стане безвкусен, защото изкуството и човешкото величие исторически са се раждали от болката и борбата.
Виртуалните световеУспоредно с това ще се изостри изборът между реалния и виртуалния свят. Устройствата ще предлагат симулации, много по-ярки от реалността, и милиони хора могат да се „затворят“ във виртуални светове и напълно да загубят връзка с физическия свят. Впрочем, Бостром счита, че изборът трябва да остане свободен: някой ще предпочете виртуален полет над планинските върхове, а друг – истинско изкачване на Еверест.
Бостром предупреди за „интелектуален взрив“, който ще последва веднага след появата на общия изкуствен интелект (AGI), когато алгоритмите започнат сами да създават още по-развити версии на себе си. На този фон идеята за принудително забавяне на разработките изглежда изключително спорна.
От една страна, паузата би дала време да се уверим в безопасността на системите. От друга страна — изкуственото забавяне на прогреса може да доведе до това, че човечеството ще се самоунищожи (например в ядрена война) преди появата на спасителния свръхинтелект, или пък бюрокрацията ще блокира развитието завинаги. Ето защо основната задача остава търсенето на баланс — напредък с максимален фокус върху безопасността на AGI.