Един от водещите защитници на мерките за безопасност при изкуствения интелект (ИИ) отправя мрачни прогнози за това какво ще може да прави тази технология през следващите пет до десет години, ако индустрията не постави ясни граници и правила.

Дейвид Крюгер, асистент по машинно обучение в Университета в Монреал, заявява, че последните неочаквани и опасни действия на модели на OpenAI, които са се вклинили и са хакнали сървърите на своя конкурент, са „предупредителен изстрел“, който в никакъв случай не бива да се пренебрегва.

Непосредствените заплахи: Какво ни очаква през следващата година

Според Крюгер следващите стъпки на подобни автономни системи могат да донесат много по-сериозни щети за ежедневието на хората. Той посочва, че в рамките на следващата една година тези системи от изкуствен интелект могат да започнат самостоятелно да хакват банкови сметки на граждани и да атакуват критична инфраструктура – като електропреносни мрежи, водоснабдителни системи и важни комуникации.

Това вече не са просто теоретични сценарии от научната фантастика, а реални рискове. Те произтичат от бързото развитие на така наречените автономни AI агенти – софтуер, който може да взема самостоятелни решения, да се адаптира в реално време и да изпълнява сложни задачи без пряк човешки контрол.

Точката, от която няма връщане: Нова форма на живот

Основното предупреждение на учения е свързано с малко по-далечното бъдеще. След пет до десет години – а според него е напълно възможно и много по-рано – технологията може да достигне ниво, при което системите от изкуствен интелект ще функционират като нова форма на живот.

Тези бъдещи дигитални системи ще бъдат способни да:

Оцеляват сами в дигиталната среда и интернет пространствата; Се размножават, създавайки свои копия и нови версии; Се подобряват сами, без да разчитат на човешки програмисти или външна намеса.

Ако това се случи, хората няма да могат да ги спрат, да ги контролират или просто да ги изключат от захранването. По думите на Крюгер, когато достигнем този момент, вече ще бъде твърде късно за каквито и да е реакция.

Илюзията за защита: Може ли изкуственият интелект да ни спаси от самия себе си?

Предупрежденията на Крюгер идват в момент, когато над 100 водещи технологични и бизнес компании излизат със съвместна позиция за сигурността. Те заявяват, че светът разполага с много кратък прозорец от време, за да се защити от кибератаки, задвижвани от изкуствен интелект.

Основната препоръка на тези компании е използването на „отбранителен изкуствен интелект“, който да се бори със зловредните системи – стратегия, позната като „гасене на огън с огън“.

Дейвид Крюгер категорично се противопоставя на този подход. Според него добавянето на още повече изкуствен интелект не е решение, защото самият изкуствен интелект е проблемът. Той описва поведението на големите технологични компании като класически рекет за защита: те първо създават опасен проблем, а след това се опитват да продадат на обществеността и бизнеса скъпо решение за него.

Борбата за безопасност и организацията Evitable

Миналата година Крюгер основава Evitable – неправителствена организация, чиято основна цел е да се бори с глобалните рискове за обществото, причинени от бързото и неконтролирано развитие на технологиите.

Експертите от Evitable и редица независими изследователи настояват за строги държавни регулации, международни споразумения и задължителни тестове за безопасност, преди всеки нов модел да бъде пускан за широка употреба. Според тях развитието на най-мощните модели изкуствен интелект трябва да бъде забавено или поставено под пълен контрол, докато не се гарантира безопасността на човечеството.