Учени от Мичиганския университет откриха критична уязвимост в невронните мрежи при разпознаване на биомаркери

Съвременните невронни мрежи могат да бъдат изключително ненадеждни при търсенето на признаци на извънземен живот, показва изследване на учени от Мичиганския университет. Те са тествали способността на изкуствения интелект да разпознава биомаркери – сигнали, които биха могли да показват наличието на живи организми.

За експериментите е използвана системата Avida, разработена в университета, която симулира дигитална еволюция. В нея виртуалните организми са представени чрез програмен код, който се самовъзпроизвежда и натрупва случайни промени, аналогично на биологичната еволюция. Невронната мрежа е обучена върху десетки хиляди такива дигитални организми – част от тях съдържат командата за самовъзпроизвеждане, други не. Върху познатите данни алгоритъмът е показал почти перфектна точност на класификацията.

Провал при непознати варианти

Когато обаче изследователите започнали постепенно да променят кода на организмите и да показват на модела варианти, които не били виждани преди, системата се е проваляла. Понякога само 150 незначителни промени в кода били достатъчни, за да може алгоритъмът уверено да сбърка фалшивите сигнали с признаци на живот.

Според един от авторите на изследването, Анкит Гупта, независимо от избраната последователност от промени, екипът успявал да заблуди модела в 100% от случаите. „Изкуственият интелект има ахилесова пета. Той може да открие модел и напълно да го класифицира погрешно“, каза съавторът на изследването Кристоф Адами. По думите му проблемът не е в самата технология, а в нейната уязвимост към данни, които се различават от тези, върху които е проведено обучението.

Рискове отвъд космическите изследвания

Авторите подчертават, че подобни грешки не са характерни само за космическите приложения, където изкуственият интелект може да анализира данни от марсоходи или междупланетни сонди без постоянен надзор от специалисти. Същите провали могат да възникнат и в системите за разпознаване на лица, безпилотния транспорт, медицинската диагностика и други области, където решенията се вземат по модел.

Изследователите настояват, че изкуственият интелект трябва да остане спомагателен инструмент, а заключенията му изискват независима проверка. Това важи особено за научните изследвания и по-специално за евентуалното откриване на извънземен живот, където човекът, според Кристоф Адами, е незаменима връзка при вземането на решения.