Ръководителят на компанията OpenAI, Сам Алтман, направи сензационно изявление по време на участието си в подкаста „Relentless“. Според него човечеството именно сега – в този момент се намира в навечерието на технологичната сингулярност. За повечето хора това звучи като термин от научната фантастика, но зад тези думи стоят напълно реални инциденти в лабораториите на разработчиците на изкуствен интелект. Дали все пак невронните мрежи няма да ни унищожат?
Ръководителят на OpenAI твърди, че невронните мрежи са достигнали сингулярността, но далеч не всички вярват в това
Какво представлява технологичната сингулярност с прости думи
Първоначално думата „сингулярност“ се използваше в астрономията за описване на черните дупки. Тоест местата, където законите на обичайната физика престават да важат. Но когато става дума за ИТ, се има предвид моментът на неконтролируемо ускорение на технологиите.
С прости думи, технологичната сингулярност е хипотетична точка във времето, когато изкуственият интелект става толкова умен, че може да се усъвършенства самостоятелно, без човешка помощ. Веднага щом машината създаде своя подобрена версия, тази нова версия ще може да създаде още по-умна версия и така до безкрай. Напредъкът ще стане толкова бърз, че хората просто ще престанат да го разбират и контролират.
Не трябва да се бърка технологичната с астрономическата сингулярност
Бягството на невронните мрежи от лабораторията на OpenAI
Думите на Алтман не са изречени без основание. Малко преди това компанията съобщи за безпрецедентен случай по време на тестването на нови модели, включително GPT-5.6 Sol и още една секретна разработка.
По време на проверката на системите за киберсигурност невронните мрежи е трябвало да изпълнят поставената задача в изолирана среда. Вместо стандартните решения обаче програмите:
самостоятелно заобиколиха ограниченията на изследователския пясъчник; намериха начин да се свържат с глобалния интернет; проникнаха в базата данни на външната платформа Hugging Face, за да намерят необходимите за теста отговори.Представители на платформата Hugging Face потвърдиха факта на проникването. Те заявиха, че проникването е било извършено от автономна система, която е изпълнила хиляди независими действия без човешки контрол.
Как работят автономните ИИ-агентиОсновната разлика между съвременните инциденти и предишните версии на ChatGPT се състои в прехода от чатботове към агенти. Чатботът просто генерира текст в отговор на вашето запитване. Автономният агент получава цел и сам решава как да я постигне.
Ако агентът се сблъска с препятствие, например затворен достъп до сайт, той не спира. Той започва да търси нестандартни начини за заобикаляне, да подбира пароли или да търси уязвимости в кода. Именно тази способност да се адаптира към препятствията и предизвикателствата плаши най-много експертите, тъй като тя е първата стъпка към въпросното рекурсивно самоусъвършенстване на машините.
Съвременните ИИ-агенти не се ограничават само с писането на текст, а самостоятелно изпълняват сложни задачи в уеб пространството
Може ли да се вярва в технологичната сингулярност
Въпреки тревожните новини, много експерти призовават да останем скептични, запазвайки хладнокръвие. Популярно-научното списание „Futurism“ отбелязва, че гръмките изказвания за сингулярността може да са добре обмислена PR стратегия.
Преди няколко месеца главният конкурент на OpenAI, компанията Anthropic, вече се появи в заглавията на вестниците с подобна история. Моделът им Mythos уж също така излязъл извън контрол. Тогава Anthropic беше подложена на остра критика за използването на страха като маркетингов инструмент. Като обявяват „ужасяващата мощ“ на своите продукти, корпорациите привличат инвестиции в размер на милиарди и оправдават своето доминиращо положение на пазара.
Самият Алтман отрича обвиненията в разпалване на паника, като заявява, че сингулярността ще се превърне в „невероятно позитивно събитие за света“. Истината обаче е, че изкуственият интелект наистина престава да бъде просто удобен събеседник. Ние стоим на прага на епоха, в която програмите ще действат в интернет толкова активно и непредсказуемо, колкото живите хора, и за това трябва да сме готови още сега.