Проучване на Cybernews сред 103 експерти показва очакване за вреда от злоупотреба и концентрация на власт, а не от самоусъвършенстващ се интелект
Повечето изследователи в областта на изкуствения интелект виждат сериозна заплаха за човечеството през следващите пет години, но смятат, че тя ще дойде от човешка злоупотреба и структурни ефекти, а не от самостоятелно действащи машини. Това показва ново проучване на изданието Cybernews, проведено сред 103 изследователи по AI и машинно обучение.
Данните разкриват разминаване между публичните предупреждения на лабораториите за изкуствен интелект и оценките на по-широката научна общност. Докато ръководители в сектора говорят за непосредствена суперинтелигентност, мнозинството от анкетираните смятат, че за напредък е нужен фундаментален пробив.
Кой е основният източник на риск
Около 70% от участниците посочват неправилната употреба от хора и структурните ефекти, като концентрация на власт, за основни източници на потенциална катастрофална вреда. По-конкретно, 37,9% виждат най-голяма опасност в злоупотребата – кибератаки, биологични оръжия и дезинформация – през следващото десетилетие. Други 28,2% се опасяват от структурни последици: икономически сътресения, ерозия на институциите и струпване на власт. За 20,4% най-сериозният риск е „несъответствието“ – системи, които преследват нежелани цели.
Джон Ликато, доцент в Университета на Южна Флорида, който не е участвал в проучването, казва пред Cybernews, че най-голямата опасност е неравномерното разпределение на ползите от AI. Според него високите разходи може да направят икономическите облаги и повишената производителност достъпни само за ограничена част от населението.
AGI и ASI: очаквания и различия
Относно изкуствения общ интелект (AGI) – способност за широк набор от интелектуални задачи на ниво опитен човек – 22,3% от анкетираните смятат, че той вече съществува. Около 24,3% очакват появата му до две години, а 19,4% – след три до пет години. Само 3,9% го определят като невъзможен. Въпреки това 52,4% са на мнение, че за AGI е нужен фундаментален пробив, докато 19,4% вярват, че настоящите подходи са достатъчни, а 26,2% – че вероятно са.
За изкуствената суперинтелигентност (ASI), която значително превъзхожда най-добрите човешки експерти, оптимизмът е по-малък. Едва 5,9% смятат, че тя вече съществува. Около 18,6% очакват появата ѝ до две години, 16,7% – след три до пет, 20,6% – след 6-10 години, а 8,8% – след 11-25 години. Други 12,7% прогнозират повече от 25 години, а 6,9% я определят като невъзможна. Сред скептиците е и изследователят Майкъл И. Джордан, който наскоро определи суперинтелигентността като научнофантастичен термин и предупреди, че фокусът върху „нереалистични“ идеи вреди на технологичния напредък.
В публично изявление президентът на САЩ Доналд Тръмп обяви, че администрацията му ще нарича изкуствения интелект „суперинтелект“ в официалните документи, мотивирайки се, че думата „изкуствен“ създава впечатление за нещо фалшиво.
За постигането на ASI 40,2% от анкетираните смятат, че определено е необходим фундаментален пробив, а 29,4% – че вероятно са нужни коренно различни подходи. Около 26,4% виждат настоящите методи като достатъчни или вероятно достатъчни.
Самоусъвършенстване и екзистенциални опасения
Що се отнася до рекурсивното самоусъвършенстване – способността на системите да ускоряват собствените си изследвания с минимална човешка намеса – 26,2% от изследователите твърдят, че то вече съществува. Още 21,4% очакват това да се случи до две години. Мнозинството обаче предвиждат по-дълъг период: 35% оценяват, че ще са нужни между 3 и 25 години, а 2,9% смятат, че никога няма да бъде постигнато.
Въпреки тези опасения 48,5% от участниците оценяват дългосрочното въздействие на AI върху човечеството като изключително или донякъде положително. Само 9,7% го виждат като изключително отрицателно, а 19,4% – като донякъде отрицателно.
Проучването е проведено онлайн между 1 и 9 октомври. Участниците са автори или съавтори на рецензирани и предварителни публикации за AI или машинно обучение. Най-голям дял от тях – 43,7% – работят в Европа, следвани от Азия с 26,2% и Северна Америка с 21,4%.
Контекстът на изследването включва публичната оставка на изследователя от Anthropic Джейкъб Коксън, който заяви, че служители в лабораториите за AI искрено вярват, че технологията може да унищожи човечеството до края на десетилетието. Неговите предупреждения бяха потвърдени от бивши и настоящи служители на други лаборатории. Критици обаче твърдят, че апокалиптичните наративи отклоняват вниманието от реалните проблеми и позволяват саморегулация на компаниите.
Междувременно Politico съобщава, че предложен от Anthropic законопроект предвижда държавна намеса само при предвидим и непосредствен риск от смърт или сериозни наранявания на над 50 души и щети за над 1 милиард долара. Това предизвика обвинения, че се поставя цена на човешкия живот.
По отношение на темпа на развитие 39,2% от изследователите настояват той да бъде забавен, 25,5% – да остане същият, а 15,7% подкрепят временно спиране на работата върху авангарден AI.