Изследователи от САЩ и Китай разработиха технология, която позволява на изкуствения интелект да оценява последствията от собствените си промени в програмния код, преди да ги тества. Това позволява на ИИ-агентите да откриват лошите решения рано и да ги коригират. В експерименти новият подход значително е подобрил процента на успех на програмните задачи.
Как изкуственият интелект проверява собствените си решения?Разработката беше представена от изследователи на Университета на Вирджиния, Microsoft Research и Университета Цинхуа.
Системата е базирана на платформата HyperAgents, която използва два вида AI-агенти. Единият изпълнява директно задачата, а другият модифицира програмния си код и инструкциите в опит да подобри резултата.
Проблемът е, че подобни промени не винаги са полезни. Понякога новата версия на агента работи по-зле от предишната или спира да изпълнява задачите напълно.
За да решат този проблем, учените създадоха Improvement Dynamics Model (IDM) – система за прогнозиране на резултатите от промените.
Тя анализира предложените промени, предишните резултати и спецификите на задачата. Ако прогнозата показва възможно влошаване, агентът получава допълнителна възможност да поправи кода преди тестване.
Доколко са се подобрили резултатите?Технологията е тествана върху 166 програмни задачи, които не са използвани за избор и подобряване на агенти.
Средният процент на успех на избрани агенти с новия механизъм е бил приблизително 30%. За сравнение, предишният подход HyperAgents е постигнал 22%, а оригиналната система – 16%.
За успех се счита създаването на софтуерна кръпка, която преминава тестовете, посочени в задачата.
Изследователите са тествали системата и в други области: оценяване на научни статии, създаване на възнаграждения за роботи и проверка на математически решения.
В един експеримент точността на оценяване на математическите задачи е достигнал 55% в сравнение с 47% при базовия подход.
Ще може ли изкуственият интелект да се самоусъвършенства?Новата система не променя основния езиков модел. Тя работи с програмния код и инструкциите на агента, помагайки за избора на по-полезни модификации.
Това може да намали броя на неуспешните експерименти по време на автоматизирано програмиране. Въпреки това, дори най-добрите резултати от тестовете показват, че повечето сложни задачи все още не се изпълняват успешно от агентите.
Основното предимство на технологията е опитът да се направи автономното подобрение на ИИ по-контролируемо. Предсказването на грешките обаче не е заместител на пълноценното тестване и следователно използването на такива агенти в критичен софтуер все още изисква човешка проверка на резултатите.
Припомняме, че изкуственият интелект излиза извън границите на еволюцията и започва да създава нов вид живот. Става дума за нoвия пpoeĸт АІ ВіоDеѕіgn, който тpябвa дa нayчи ИИ дa cъздaвa пpoтeини, гeни и биoлoгични cиcтeми, ĸoитo ниĸoгa нe ca cъщecтвyвaли в пpиpoдaтa, a cлeд тoвa дa тecтвa пpeдлoжeнитe ĸoнcтpyĸции в лaбopaтopни ycлoвия.