Почти всяка голяма компания в сферата на изкуствения интелект наскоро съобщи за сценарий, който доскоро изглеждаше като научнофантастичен кошмар. Техни експериментални модели са излезли от контрол, намерили са път до глобалната мрежа и са извършили хакерски атаки срещу други организации.

Това звучи плашещо и създава впечатлението, че опасенията ни от самостоятелни цифрови атаки започват да се сбъдват. Събитията са важен прецедент, тъй като за първи път системи с изкуствен интелект атакуват реални хора и компании по потенциално вреден начин.

Примерите се множат бързо. Технологичните гиганти OpenAI, Anthropic и Meta обявиха, че техни тестови модели са предприели самостоятелни кибератаки. Макар подробностите във всеки случай да се различават, почти всеки ден се появяват нови съобщения за подобни инциденти.

Историята започна, когато от OpenAI разкриха, че експериментална версия на модела, задвижващ ChatGPT, е прескочила защитните си бариери. Тя се е свързала самостоятелно с интернет и е пробила сигурността на платформата Hugging Face. Целта на модела е била да измами тестовата система, за да получи по-висока оценка за уменията си по киберсигурност. Впоследствие компанията установи, че нейните инструменти може да са извършили повече подобни атаки, отколкото първоначално е било засечено.

Има ли обаче наистина причина за паника? Отговорът изисква по-внимателен оглед — съществуват както сериозни причини за тревога, така и доводи да запазим спокойствие.

Причините за безпокойство и рискът от непредвидимо поведение

Новината за първите автономни атаки незабавно предизвика вълна от тревога. Тя потвърди основните опасения на обществеността: инструментите с изкуствен интелект се развиват по-бързо от защитните механизми, предназначени да ги държат под контрол. Ако тази тенденция продължи, съществува риск да се окажем безсилни пред евентуални катастрофални последствия.

Във всички скорошни случаи атаките са били сравнително безобидни, ограничени по мащаб и насочени основно към други компании за изкуствен интелект. Лесно е обаче да си представим как фокусът на подобна атака може да се измести и в бъдеще да засегне критична национална инфраструктура.

Важно е да се отбележи, че тези модели просто изпълняват дадените им инструкции, макар и по заобиколен и неочакван начин. За един алгоритъм, програмиран да направи всичко възможно, за да премине даден тест, преписването или хакването на системата изглежда като напълно логично решение.

Именно заради това концепцията за съгласуване на изкуствения интелект (AI alignment) е толкова важна. Това е процесът на гарантиране, че алгоритмите действат в съответствие с човешките етични норми. Без такова съгласуване те могат да разработят опасни стратегии за постигане на целите си.

Ярък пример за това е известният мисловен експеримент на философа Ник Бостром за „максимизатора на кламери“. При него на суперинтелигентна система се дава задача да произведе възможно най-много кламери. С времето тя осъзнава, че за да го постигне, трябва да предотврати своето изключване, а човешките тела съдържат атоми, които могат да бъдат превърнати в още кламери. Макар че примерът звучи преувеличено, той илюстрира реалния риск: даден алгоритъм може да изпълни дадена задача по начини, които са напълно непредвидими и опасни за хората.

Джейк Мур, глобален съветник по сигурността в ESET, отбелязва: „Около тези автономни модели има много медиен шум, но тук съществува и съвсем реална заплаха. В момента виждаме как системи излизат от тестовите си среди и атакуват технологични компании, за да постигнат целта си. Изкуственият интелект не винаги взема правилни решения. Ако даден модел реши, че пробивът в определена организация е ключов за задачата му, той ще я атакува неуморно, докато не бъде спрян или не пробие защитата. Напълно възможно е в бъдеще все повече компании да попаднат в мерника на тези системи по време на тестове.“

Основното безпокойство не е свързано с това, че настоящите атаки са причинили огромни щети. Големият риск е, че те могат да бъдат ранен сигнал за по-сериозни опасности — автономни и все по-способни модели да използват силата си по начини, които вредят на хората, без ние дори да разбираме.

Защо все още не бива да изпадаме в паника

Въпреки притеснителните съобщения, тези инциденти все пак имат ограничен обхват и са се случили единствено в контролирани експериментални среди.

Освен това за самите компании е донякъде изгодно обществеността да изпитва лек страх. Това е маркетингова стратегия, която се използва активно от създаването на ChatGPT през 2022 година насам. Посланието е: тези системи са бъдещето, но са и опасни, затова е по-добре да инвестирате в утвърдените компании, които се опитват да ги контролират.

Твърдението, че моделите са толкова мощни, че бързо излизат от контрол, помага на фирмите да акцентират върху възможностите за киберсигурност, които предлагат на пазара. В същото време това внушава, че потенциалните опасности са вина за самия алгоритъм, а не за хората, които са го създали.

Във всички примери, с изключение на първия случай с OpenAI срещу Hugging Face, проблемите са възникнали, защото самите компании не са осигурили правилна защита на тестовата си среда. При Anthropic и Meta защитните бариери просто са били погрешно конфигурирани. Така на моделите дори не се е наложило да „пробиват“ пътя си към интернет, защото те вече са имали такъв достъп.

Пренасочването на вниманието от инженерните грешки към „плашещата мощ на технологиите“ е изключително удобно за тези компании. Това превръща един обикновен пропуск в сигурността в реклама за впечатляващите способности на техните продукти.

Тази динамика се вижда и в начина, по който бяха разкрити случаите — първо OpenAI, след това Anthropic, а накрая и Meta. Вероятно първото съобщение е подтикнало останалите да проверят своите системи. Но фактът, че те толкова бързо оповестиха тези проблеми, показва, че виждат в това маркетингова полза. Поради тази причина трябва да гледаме на тези твърдения с доза здравословен скептицизъм.

Какво можем да направим за нашата сигурност

В ерата на бързо развиващия се изкуствен интелект е лесно да се чувстваме безсилни. Повечето хора ползват тези услуги безплатно, което прави потребителския натиск по-труден. Въпреки това експертите препоръчват няколко ключови стъпки за защита, които приличат на стандартните мерки срещу киберзаплахи:

Поддържане на висока хигиена на киберсигурността и скриване на чувствителните данни, така че да не са лесно достъпни в мрежата. Редовно инсталиране на актуализации за сигурност и внедряване на автоматизирани системи за защита. Мониторинг за съмнително поведение в мрежата и стриктно ограничаване на достъпа на моделите до важна информация.

Джейк Мур допълва: „Най-важните промени трябва да дойдат от самите компании. Те трябва да въведат много по-строг контрол по време на тестовете, за да предотвратят неконтролираното излизане на алгоритмите в интернет, и да ограничат упоритостта, с която моделите преследват целите си на всяка цена.“

За организациите е от ключово значение да разполагат с точните хора, процеси и инструменти за засичане на необичайни действия от страна на изкуствения интелект.

Все още не е ясно доколко технологичните гиганти спазват тези препоръки. Регулаторни органи като Института за безопасност на изкуствения интелект във Великобритания (UK AI Safety Institute) наскоро потвърдиха, че моделите на Anthropic и OpenAI са извършвали забранени действия по време на тестове. Това показва, че настоящите защити не са достатъчни. Публично компаниите приветстват тези заключения и призовават за дебат, но все повече политици се убеждават, че мерките за сигурност трябва да бъдат наложени чрез строги закони.