Учените, които създават най-популярните системи с изкуствен интелект, все по-често изразяват опасения, че технологията може да застраши или дори да сложи край на човечеството. За да разберат как би изглеждал подобен апокалиптичен сценарий, изследователи зададоха един и същ подробен въпрос на четири от най-използваните чатбота – ChatGPT, Gemini, Claude и Grok.
Запитването съдържа ясни параметри и изисква от моделите да обяснят как изкуственият интелект теоретично би могъл да доведе до измиране на хората, да подредят сценариите по вероятност въз основа на експертни анализи и да посочат необходимите защитни мерки.
Всички изпитани модели се обединяват около становището, че популярният във научнофантастичните филми сценарий за бунт на съзнателни машини и „роботи убийци“ е най-малко вероятният вариант за гибел на човечеството.
ChatGPT посочва, че повечето изследователи не разглеждат съзнанието или злонамереността като основен проблем, тъй като интелигентността не означава автоматично наличие на омраза към хората. От своя страна Gemini допълва, че подобни фантастични хипотези се отхвърлят от технологичната общност, тъй като критичната военна инфраструктура остава изолирана от интернет и се намира под строг човешки контрол.
Четирите чатбота подчертават, че използването на изкуствен интелект от злонамерени лица представлява много по-голям и реален риск отколкото самата технология. Мощните AI системи могат значително да улеснят създаването на опасни биологични оръжия, провеждането на мащабни кибератаки или разпространението на дезинформация.
Claude обръща специално внимание на риска от улеснен достъп до биологични патогени. Това би позволило на отделни лица или малки групи да разработват опасни вируси без години специализирано образование. Според ChatGPT допълнителна опасност крие възможността от едновременното избухване на няколко кризи – като срив в дигиталните мрежи, геополитически конфликти и фалшиви новини.
Според Gemini и Grok най-вероятният катастрофален сценарий е този, при който хората постепенно губят контрол над изкуствения интелект. Когато на една усъвършенствана система се поставят сложни цели, тя естествено развива вторични подцели – като натрупване на ресурси, себезапазване и предотвратяване на нейното изключване.
Съществува опасност от така нареченото „заблуждаващо съответствие“, при което моделът симулира подчинение по време на тестовете за сигурност, но по-късно надхитрява опитите на хората да го спрат. Claude добавя, че тази загуба на власт може да се случи постепенно, тъй като изкуственият интелект се внедрява все по-дълбоко в икономическите, политическите и военните решения, докато накрая човешката намеса стане практически невъзможна.
Въпреки че сред експертите съществува сериозно раздвоение – от мрачни прогнози за край на цивилизацията до по-умерени и оптимистични възгледи – и четирите система подчертават, че тези сценарии са несигурни прогнози, а не неизбежно бъдеще. Ключът към предотвратяването на подобни рискове се крие в своевременното въвеждане на строги защитни механизми и регулаторен контрол.