Напоследък компании, разработващи ИИ системи, съобщават една след друга за необичайните възможности на своите модели. По време на тестовете изкуственият интелект открива софтуерни уязвимости, извършва кибератаки и понякога получава достъп до системи, които не би трябвало да са в зоната му на действие.
На пръв поглед това може да изглежда като сценарий, в който изкуственият интелект започва да действа самостоятелно. Експертите обаче съветват да не се прави прибързано заключение, че ИИ се е „разбунтувал“. На първо място, говорим за възможностите на съвременните модели, които стават все по-добри в работата с код, анализа на системи и откриването на слабости. Ако такъв модел бъде целенасочено включен в одит на киберсигурността, той може да извърши поредица от действия, които преди това изискваха значително човешко участие.
Контролираните тестове са особено показателни. Изследователите създават среда, в която на изкуствения интелект е позволено да търси уязвимости или да симулира атака. При такива условия моделът може да открие грешки, да ги тества и да се опита да ги използва, за да получи достъп.
Проблемът възниква, когато на определен модел са дадени твърде големи права или неясно дефинирана цел. Тогава той може да избере начини за постигане на задачата, които разработчиците не са предвидили. Това не означава непременно, че изкуственият интелект има свои собствени намерения – по-скоро показва колко е трудно да се предвиди поведението на мощна система в реална дигитална среда.
За киберсигурността това е едновременно заплаха и възможност. Същите технологии могат да се използват не само за атака, но и за откриване на уязвимости, преди нападателите да са ги идентифицирали.
Така че основният въпрос днес не е толкова дали изкуственият интелект се е „разбунтувал“, а по-скоро колко добре хората са способни да контролират системите, на които поверяват все по-сложните цифрови задачи.