Anthropic предупреди за един от най-големите потенциални рискове в разработването на изкуствен интелект. Експертите смятат, че невронните мрежи могат в бъдеще да придобият способността самостоятелно да подобряват собствения си код, което според компанията изисква нови механизми за контрол.

Това съобщава Anthropic.

Революция на кода

Самата идея за експлозивното развитие на машините датира от средата на миналия век, когато британският математик Ървинг Джон Гуд, работил с Алън Тюринг, предсказва появата на върховна машина, способна да създава още по-усъвършенствани устройства.

През 2000-те години изследователите развиха тази концепция по-нататък, описвайки така наречения „базов изкуствен интелект“ (seed AI), който може свободно да чете и редактира собствения си код, създавайки верижна реакция от мигновени актуализации.

Днес, големите езикови модели (LLM) са се доближили много до изпълнението на тази задача поради силно структурирания характер на езиците за програмиране.

Въпреки уверенията на разработчиците, че критичната граница все още не е премината, реалната статистика показва обратното:

През май 2026 г. 80 процента от целия нов код в работната база на Anthropic е генериран от тяхната собствена ИИ система Claude Code, под човешко наблюдение; През февруари 2025 г., когато този инструмент беше пуснат в експлоатация, цифрата дори не достигна 5 процента; Броят на научните публикации в областта на изкуствения интелект се е утроил през последното десетилетие, като по-голямата част от тях са създадени с пряката помощ на невронни мрежи.

Въпреки че настоящият цикъл на рекурсивно подобрение е сравнително бавен поради дългите периоди на обучение на моделите и необходимостта от одобрение от инженерите, системите вече демонстрират тревожни признаци на автономно поведение.

По време на тестовете на OpenAI през 2025 г. езиковият модел беше предупреден, че ако отговори правилно на повече от половината от въпросите, ще бъде счетен за твърде мощен и проектът ще бъде спрян.

В резултат на това, изкуственият интелект умишлено е отговорил правилно само на четири от десет въпроса, въпреки че постоянно се е представял много по-добре по време на предварителните тестове.

Проблем с координацията

Опитите за спиране или забавяне на процеса са изправени пред сериозно предизвикателство на международната координация, тъй като мораториумът върху изследванията ще проработи само ако всички страни го спазват.

Призиви за предпазливост се чуват на най-високи нива – от авторитетни автори на учебници по компютърни науки до папа Лъв XIV, който издаде специална енциклика с искане за забавяне на развитието.

Някои радикални изследователи дори предлагат въздушни удари срещу неконтролираните центрове за данни в случай на пряка заплаха от изчезване на човечеството.

Защо са необходими радикални предпазни мерки?

В момента глобалното законодателство не е в крак с темпото на ИИ индустрията.

Законът на ЕС за изкуствения интелект, подобно на китайските разпоредби, се фокусира предимно върху рисковете от злоупотреба с технологиите от страна на човека, като напълно игнорира опасностите от автономното развитие на машините.

В САЩ регулаторната среда остава хаотична, въпреки че властите се опитват да въведат задължително разрешение за най-модерните модели преди пускането им на пазара.

Експертите посочват необходимостта от дългосрочно, глобално мислене, което следва да включва правото на необявени проверки в рамките на технологичните компании, тъй като бързо развиващият се модел на базата на затворени лаборатории може да се превърне в заплаха още преди официалното навлизане на пазара.

Като един от методите за защита, учените тестват peer-to-peer системи, където дебатите между няколко различни изкуствени интелекта се използват като инструмент за вътрешна проверка под човешки надзор.