През 1950 г. Алън Тюринг зададе въпроса: „Може ли машината да мисли?“ — и предложи тест, който трябваше да даде отговор на този въпрос. Почти 75 години по-късно професорът по информатика Питър Денинг в новата си книга „Грешката на Тюринг: как да се измъкнем от игото на неразумните машини“ твърди, че двете ключови предпоставки на Тюринг са довели изследванията в областта на изкуствения интелект до задънена улица и са станали причина за настоящата криза на доверието към изкуствения интелект.
Алън Тюринг основава своите разсъждения на идеята, че разумът може да съществува независимо от физическото тяло; и че една машина може да се счита за разумна, ако успешно имитира човека в разговор.
„Тези две твърдения до голяма степен определиха хода на изследванията и разработките в областта на изкуствения интелект“, пише Питър Денинг. Аз се базирам на предпоставката, че именно нашето съгласие с тези твърдения доведе до проблематичната ситуация с ИИ, в която се намираме днес“.
Денинг твърди, че опитите да се създаде силен изкуствен интелект (AGI) — тоест машини, притежаващи интелект на човешко ниво, — едва ли ще бъдат увенчани с успех. Напротив, предупреждава той, създаваните от обществото технологии могат да породят нови сериозни рискове.
Първата грешка: Имитацията като критерий за разумВ основата на критиката на Денинг лежи понятието „неизразено знание“ (tacit knowledge) — огромният масив от човешки опит, който е невъзможно да се изрази с думи или да се кодира под формата на данни, подходящи за машинно обработване.
Той разграничава пет категории на такова знание: здрав разум, ежедневни взаимодействия, емоции и възприятие, практически умения и културно-исторически контекст. Всички те са извън обсега на алгоритмите за машинно обучение.
Денинг припомня проекта „Cyc“ на Дъглас Ленат, който от 80-те години на миналия век се опитва да събере всички факти на здравия разум в база данни. След 40 години работа тя съдържа около 25 милиона записи. Но дори и тази съкровищница не е направила експертните системи наистина умни.
„Cyc потвърди, че по-голямата част от знанията, които правят хората експерти, не могат да бъдат изразени под формата на твърдения“,
пише Денинг.Още по-сложно е положението с практическите умения. Виртуозен цигулар може да свири прекрасна музика, но не може да опише на ученика си как точно го прави. Знанието как да се направи нещо се различава принципно от знанието на фактите. Дори ако роботът може да наблюдава музиканта и да копира движенията му, той няма биологично тяло, за да разбере какво изпитва изпълнителят или слушателят в този момент.
Към недостъпните за машините форми на знание Денинг причислява също интуицията, вътрешното усещане, въображението и спонтанното творчество, пише Science Daily.
Втората грешка: Човекът като единствена мярка за интелект
Езиковите модели като ChatGPT, Claude и Gemini оперират с думи, но не разбират тяхното значение. Зад всяка дума стои най-дълбокият слой на неизразеното знание, който й придава смисъл. Контекстът, сарказмът, дипломатичността, хуморът — всичко това има корени в безкрайната верига от предишни разговори и ситуации. Културата — с нейните ценности, норми, истории и взаимоотношения — не може просто да бъде „заредена“ в невронна мрежа.
„Мащабирането на големите езикови модели (LLM) чрез създаването на все по-големи невронни мрежи няма да им позволи да усвоят въплътеното човешко знание, което наричаме култура. LLM няма да могат да постигнат целта на теста на Тюринг — да демонстрират машинно мислене, неразличимо от човешкото“,
твърди авторът.Денинг стига до заключението, че машините и хората развиват различни форми на неявно знание, които нито едната, нито другата страна няма да може да разбере. Между нас има непреодолима пропаст. Проблемът е, че машините, макар и да не са в състояние да достигнат човешкия интелект, все пак могат да се развият в достатъчна степен, за да създадат сериозни проблеми на хората.
„Машинният интелект има други приоритети, различни от нашите, и, по всичко личи, ние не го интересуваме“, заяви Денинг. — Начините му на мислене и решаване на задачи ни се струват чужди. Все още не знаем как да съжителстваме безопасно с тези машини“.
Обществото на интелигентните машини
Той призовава да признаем, че с появата в обществото на интелигентни машини познатият ни начин на живот остава в миналото, а бъдещето е неясно. Призовава ни да не мислим като машини и да не се превръщаме в техни слуги. Да не склоняваме глава пред игото, наложено от машини, надарени само с зачатъци на интелект. А най-важното — да провъзгласим ценността на своята човешка същност, която ни отличава от машините.
Машините притежават уникални предимства, които се различават фундаментално от биологичния мозък. Те могат да обработват колосални масиви от данни за милисекунди, да откриват сложни математически зависимости в многомерни пространства и да работят без умора. Опитвайки се да ги накараме да мислят „като хора“, ние ограничаваме техния вроден потенциал на мощни изчислителни инструменти, за да ги превърнем в несъвършени копия на самите нас.
Този философски и практически дебат е изключително важен. Осъзнаването, че съвременните компютри не трябва сляпо да имитират човека, а да развиват своите собствени специфични силни страни, може най-после да ни изведе от безпътицата и да постави началото на нова, по-прагматична ера в компютърните науки.