Папа Лъв XIV заяви, че човечеството трябва да обезоръжи изкуствения интелект, преди да е станало твърде късно
Съществува изобилие от думи, с които може да се опише какво трябва да се случи с AI в момента. Папа Лъв XIV избра една, която обикновено се използва в контекста на ядрените запаси. В първия си голям проповеднически документ, публикуван в понеделник, той казва, че човечеството трябва да „разоръжи“ AI, преди нещата да излязат извън контрол.
Забележките са включени в текст от 82 страници, озаглавен Magnifica Humanitas (в превод „Великолепна човечност“) – първата енциклика от неговото папство, публикувана на 25 май. Енцикликата е официалното послание на папата до Католическата църква, в което той очертава своите приоритети за 1,4-те милиарда членове на Църквата. За Лео приоритетът изглежда е изкуственият интелект.
Същинското послание не е да се откажем напълно от технологията. По-скоро той иска да я отстрани от процеса, който той описва като „въоръжен“ конкурентен начин на мислене. За тази цел значителна част от енцикликата е посветена на AI във военното дело, за което той твърди, че някои автономни оръжейни системи вече се изплъзват от смисления човешки контрол. Вместо да се движим в тази насока, той казва, че AI трябва да бъде приятелски настроен към човека, достъпен и отворен за обществени дебати.
Един от пасажите изглежда като адресиран директно към Силициевата долина. В него папата предупреждава, че реалният контрол върху цифровите системи вече не е в ръцете на правителствата, а на шепа корпоративни играчи. Той каза, че когато властта е концентрирана в толкова малко ръце, тя има склонност да става непрозрачна и да избягва обществения надзор. Това, от своя страна, отваря вратата за нови зависимости и неравенства.
Енцикликата бе обявена в Синодалната зала на Ватикана, а съоснователят на Anthropic Крис Олах седеше до папата. Олах повтори опасенията на папата, като заяви, че самите разработчици често са водени от амбиции, честолюбие, конкуренция и финансов натиск.
Олах отбеляза нещо, от което много изследователи тихичко се притесняват. Той описа някои поведения в съвременните AI модели като „мистериозни, дори обезпокоителни“, като добави, че дори хората, които ги изграждат, не разбират напълно какво се случва вътре.
Документът обхваща и теми извън сферата на AI. Лъв се извинява за дългото забавяне на Църквата да осъди поробването, като го определи като рана в християнството. Той направи разграничение между тази история и това, което описва като новите форми на робство, възникващи в цифровата икономика.
Богословът Леокади Лушомбо, който говори по време на събитието, доразвива този въпрос. Тя подчерта, че минералите, използвани в инфраструктурата на изкуствения интелект и центровете за данни, често се осигуряват чрез добив на полезни изкопаеми в глобалния Юг. Поради това, твърди тя, технологията може тихомълком да придобие колониални характеристики – дори когато не е изрично формулирана по този начин.
Знаковото изявление на Ватикана относно AI всъщност не е съвсем хладно, тъй като папата не за първи път предупреждава за рисковете, свързани с AI. Нещо повече, Църквата се сближава с технологичните компании от близо десетилетие чрез инициативата Minerva Dialogues (Диалозите на Минерва).