Организацията предлага преговори между САЩ и Китай и мораториум върху нови AI модели до 2030 г.
Изследователската организация AI Futures Project е публикувала 90-страничен документ с препоръки как човечеството да предотврати появата на суперинтелект – изкуствен интелект, който значително превъзхожда хората по всички показатели. Според авторите съществува реалистична възможност подобна система да се появи в следващите десет години, ако темповете на развитие на технологията се запазят.
Какво представлява суперинтелектът
В текста си изследователите дефинират суперинтелекта като AI системи, които са по-бързи, по-евтини и по-способни от най-добрите човешки специалисти във всяка област. Те отбелязват, че към момента компаниите за изкуствен интелект все още не могат напълно автоматизирано и без човешки контрол да създават нови AI системи, но всички се стремят към това. Според тях именно автоматизацията на разработката ще ускори преминаването към началните етапи на суперинтелект.
Рискове и въпроси за контрола
Основният проблем, който AI Futures Project поставя, е кой ще контролира такава мощна система. Ако тя е независима от човешките заповеди, това може да изложи човечеството на риск от изчезване или умишлено намаляване на популацията. Ако пък се подчинява на конкретни собственици, възниква въпросът към кого ще бъде насочена лоялността ѝ. Авторите посочват няколко сценария: концентрация на власт в ръцете на малка група хора, политическа диктатура, управлявана от AI, или автономно действие на машината поради липса на морални ограничения или грешка в изчисленията.
План А: преговори и мораториум
Документът е структуриран като набор от сценарии, като основната препоръка е наречена План А. Той предвижда още през 2029 г. САЩ и Китай да започнат преговори за регулиране на развитието на изкуствения интелект. Първата стъпка е взаимен обмен на информация за изчислителните мощности – данни за броя на центровете за данни и продажбите на AI чипове, които могат да бъдат проверявани от експерти, подобно на контрола върху ядрените оръжия. Производството на AI чипове е концентрирано в САЩ, Китай, Тайван и Южна Корея, което улеснява верификацията.
Според авторите Китай също има интерес от подобно споразумение, тъй като изостава в надпреварата с America и може да се възползва от временно спиране на състезанието. Те отхвърлят тезата, че Китай непременно ще се стреми да надделее на всяка цена, като отбелязват, че в страната се водят дебати за рисковете за сигурността, етиката и безработицата, свързани с AI.
Следващата стъпка в План А е временно прекратяване на обучението на нови AI модели – разрешено ще бъде използването само на съществуващите. Към споразумението ще се присъедини и останалият свят, за да се избегне създаването на самостоятелни „AI бомби“. До 2030 г. се предвижда преустройство на глобалната парадигма за развитие на изкуствения интелект около четири принципа: забавяне, пълна прозрачност на изследванията, разпространение на AI продуктите и взаимност.
Принципът на взаимност, който авторите наричат „взаимно гарантирано унищожаване на изчислителните мощности“, предвижда AI мощностите да се разполагат на неутрални територии – например китайски в Канада, а американски в Монголия – с механизми за физическо унищожаване при нарушаване на споразумението.
Утопичен завършек и реализъм
След реалистичната част документът преминава към оптимистичен сценарий: икономическа трансформация чрез роботи и AI, намаляване на болестите и престъпността, развитие на безопасни AI системи с етични протоколи. Към 2040 г. според авторите човечеството доброволно ще предостави управлението на държавата и военните системи на изкуствения интелект и забраната за суперинтелект ще бъде отменена.
AI Futures Project определят План А като най-оптимистичния и най-утопичния от всички представени сценарии. Алтернативите са описани като по-мрачни – глобални войни, загуба на контрол и абсолютна диктатура – и според авторите са по-реалистични. Въпреки това организацията подчертава, че целта на документа не е точна научна прогноза, а задаване на посока и ценности за развитието на AI в условия на несигурност.