Ключовата идея, която е в основата на развитието на изкуствения интелект в продължение на десетилетия, може да се окаже погрешна. Компютърният учен Питър Денинг заяви, че съвременният изкуствен интелект никога няма да постигне мислене на човешко ниво, въпреки че създава нови заплахи в момента.

Това се казва в изследването, наречено „Turing’s Mistake: Escaping the Yoke of Unintelligent Machines“.

Ученият смята, че ключовата бариера пред създаването на наистина интелигентни машини е така нареченото „мълчаливо знание“ (tacit knowledge).

Това е огромен набор от опит, който хората натрупват и използват ежедневно, но не могат да го изразят напълно с думи или да го преведат в символи за компютър.

Пет форми на мълчаливо знание, до които изкуственият интелект няма достъп

Машините нямат основни елементи на човешкото съществуване, които не могат да бъдат кодирани, казва Денинг.

Здрав разум: Опитите да се запише фактологична база, основана на „здрав разум“, продължават от десетилетия, но се оказва, че експертните знания не могат да бъдат сведени до набор от твърдения.

Практически умения (ноу-хау): Можем да опишем резултата от действие, но не можем да кодираме въплътеното физическо преживяване. Да, един виртуозен цигулар не може да предаде усещането от свиренето на ученик или на произведение.

Чувства и възприятие: интуицията, предчувствието, спонтанната креативност и въображението се съпротивляват на дигиталното форматиране.

Ежедневно взаимодействие: невербалните преживявания на комуникация с хора и околната среда.

Културно-исторически контекст: общо минало, настроение и социални норми.

Проблемът на репрезентацията и контекста

„Съвременните големи езикови модели просто манипулират думите, но не успяват да схванат по-дълбокото им значение. Думата е просто символично обозначение, зад което се крие колосален слой човешки опит“, отбелязва Денинг.

„Освен това, човешкият език е изцяло зависим от контекста – ирония, искреност, хумор или сарказъм. Тъй като всеки контекст разчита на предишни разговори и ситуации, тази структура е безкрайна.“

„Простото увеличаване на мащаба на езиковите модели няма да им помогне да придобият култура или да постигнат теста на Тюринг“, добавя той.

Основната опасност: не е свръхинтелигентността, а „глупавите“ мрежи

Ученият отбелязва, че неспособността на машините да разбират негласното знание създава пропаст между хората и алгоритмите. Това означава, че машините създават свой собствен вид „негласно знание“, което хората не са способни да разберат, и обратно.

Съществува пряк риск за сигурността.

Основната заплаха не е появата на свръхинтелект, който ще завладее света, а появата на нискоинтелигентни мрежи, които действат мощно, непредсказуемо и потенциално вредно, без да се вземат предвид човешките ценности и контекст.

Спомнете си, че новият ИИ на Google се доближи до физическия AGI и роботите стават още по-автономни.