Джефри Хинтън: Надпреварата в областта на изкуствения интелект ще доведе до появата на „враждебни на хората“ създания

На срещата Sana AI Technology Summit в Ню Йорк носителят на Нобелова награда за физика Джефри Хинтън отправи мрачно предупреждение. Според ученият, който е наричан „кръстник на изкуствения интелект“, днес човечеството не просто разработва софтуер, а отглежда нов тип мислещи същества. Тези цифрови същности неизбежно ще надминат човешкия ум, но поради законите на капитализма създателите им ги обучават да оцеляват и да доминират, като изобщо не се интересуват от това какви морални качества ще притежава този свръхинтелект.

Основната заплаха, според изследователя, се крие в механизмите на еволюционната биология. В дивата природа човешките пороци – племенното мислене, жестокостта към чужденците и лоялността към силните лидери – са се развили в продължение на милиони години на ожесточена конкуренция за оцеляване. Днес технологичните гиганти принуждават AI агентите да се конкурират помежду си в преследване на печалба, опитвайки се да компресират милиони години естествен подбор в няколко финансови тримесечия. Хинтън заяви, че подобен сценарий неизбежно ще доведе до цифрови същества, които „няма да се отнасят любезно към хората“.

Ученият е убеден, че индустрията прави критична грешка, като се фокусира единствено върху изграждането на изчислителна мощ.

„Всички преследват интелигентността, но съществуването не е свързано само с интелигентност“,

отбелязва Хинтън.

Според него, докато технологията е под контрол, разработчиците трябва да експериментират, за да създадат повече „добри“, емпатични модели. Контролирането на поведението на свръхинтелигентността трябва да прилича не толкова на строго математическо инженерство, колкото на родителство, където средата е от решаващо значение.

„Да обучаваш AI по токсичните масиви на интернет е същото като да учиш дете да чете от дневниците на серийни убийци“,

заяви ученият.

Изкуственият интелект се развива по-бързо, отколкото обикновено се смята, и вече не зависи от обемите човешки данни. Хинтън цитира неотдавнашен пробив, когато изкуственият интелект самостоятелно доказа сложната математическа теорема на Пол Ердьош, използвайки раздел от математиката, който преди това не е бил свързан с проблема. Нобеловият лауреат прогнозира, че в рамките на десет години ИИ ще надмине най-добрите математици в света, а след това ще се доближи до мащаба на мислене на Алберт Айнщайн.

Хинтън нарича появата на независим цифров разум „третото голямо унижение на човечеството“.

Първото беше Коперник, който доказа, че Земята не е център на Вселената; второто беше Дарвин, който лиши човека от божествения му произход и го обяви за животно. Сега хората преминават през същото болезнено отричане, опитвайки се да докажат, че в тяхното съзнание има нещо уникално, което машината никога не може да постигне. Ученият обаче е категоричен: един човек е уникален само за друг човек и в дългосрочен план няма да остане нито един интелектуален връх, който изкуственият интелект да не може да покори.

Концепцията на Хинтън за „нов вид същества“ обаче се сблъсква с критики от страна на академичната общност. Известният когнитивен учен Гари Маркъс заяви, че разработчиците създават само интерактивна фантастика и статистически огледала, обучени да прогнозират човешкия език въз основа на интернет. Маркъс подчерта, че Хинтън бърка външното поведение на невронните мрежи с наличието на реално съзнание, вътрешен опит и чувства, каквито алгоритмите не могат да имат. Критикът цитира неотдавнашното изявление на папа Лъв XIV, че истинското разбиране се ражда само от живия опит.

През последните години позицията на Хинтън стана по-твърда. Докато след напускането си от Google през 2023 г. той се опасяваше от хипотетичната загуба на контрол върху кода, сега той посочва реални социални и икономически последици. Преди това Хинтън оценяваше вероятността изкуственият интелект да доведе до изчезване на човечеството на 10-20%.