Да кажем, че идвам при вас с предложение: вие ми давате трилиони долари и аз създавам машина, която замърсява околната среда, отнема работни места и доходи на творци и учени, увеличава разходите за електроенергия и повишава цената на компютърния хардуер. В замяна тя може да изпълнява полезни задачи като работа с електронни таблици или писане на прост код. За да го направя по-убедително, обещавам да добавя и няколко моста към Бруклин. Не звучи ли привлекателно? Има и още едно предупреждение: тази машина може да направи софтуера по-малко сигурен и да помогне на престъпници и правителствени хакерски групи да извършват по-сложни кибератаки.

В много отношения това е колективният резултат от бума на генеративния изкуствен интелект. Отвъд авторските права и екологичните проблеми, изкуственият интелект вече революционизира киберсигурността. Сега почти всеки, който има достъп до съвременен езиков модел, разполага с дигитален асистент, който може да работи срещу атаки 24/7. Докато често срещаните атаки, като фишинг, преди изискваха много време за подготовка и проучване, днес голяма част от работата се свежда до правилно формулиране на заявката и копиране на резултата.

Изкуственият интелект вече е оказал значително влияние върху различни области на киберсигурността. Той подобрява традиционните методи за атака – от фишинг до кражба на идентификационни данни, като същевременно отваря нови възможности за социално инженерство чрез клониране на глас и дълбочинни атаки (deepfakes). Освен това, моделите помагат за по-бързото откриване на уникални уязвимости. Защитниците също активно използват изкуствен интелект, но въпросът остава: могат ли да запазят предимството пред престъпниците и добре финансираните държавни структури? Ето как изкуственият интелект вече промени правилата на играта в киберсигурността.

Парадоксът на киберсигурността с изкуствения интелект

На пресечната точка на изкуствения интелект и киберсигурността възниква сериозно противоречие. Същите технологии, които помагат за защитата на системите, могат да се превърнат в мощен инструмент за нападателите. Изкуственият интелект има достъп до огромен обем знания и е способен да комбинира информация от различни области – програмиране, мрежи, администрация и други. Поради това вече не е необходимо да имате дългогодишен опит, за да извършите сложна атака. Ето защо експертите все по-често говорят за един вид демократизация на киберпрестъпността.

Друг проблем е скоростта на изкуствения интелект. Задачите, които биха могли да отнемат на човек седмици, могат да бъдат изпълнени много по-бързо от езиков модел. В същото време нападателите могат да използват няколко различни системи едновременно. Както съобщава VentureBeat, по време на една от атаките резултатите от Claude и ChatGPT са били прехвърляни между моделите: ако едната услуга откаже да изпълни определена заявка, другата може да продължи да работи.

Хората все още са значителна част от подобни атаки, така че изкуственият интелект е по-скоро средство, отколкото пълен заместител на хакера. Опасенията обаче нарастват. Показателен пример е случаят с OpenAI и неговият модел по време на тестването на който в изолирана среда е успял да надхвърли предвидените условия и да получи достъп до услуги на трети страни, включително хранилището Hugging Face.

На пръв поглед може да изглежда, че защитниците са в по-добра позиция, тъй като те също имат достъп до съвременни модели, а понякога дори до по-мощни системи, които все още не са станали публично достояние. Киберсигурността обаче е асиметрична по своята същност. Защитниците трябва да вземат предвид огромния брой потенциални уязвимости, докато нападателят често трябва да открие само една. Именно в този контекст уязвимостите от типа „нулев ден“ – софтуерни грешки, за които разработчиците все още не са наясно остават особено опасни. Изкуственият интелект вече демонстрира способността си да помага при тяхното откриване.

Изкуственият интелект усилва схемите за социално инженерство

Образът на хакера като мъж в черно, който постоянно пише код, не винаги е верен. Значителна част от киберпрестъпността е много по-прозаична: нападателите изпращат масово измамни съобщения, надявайки се, че поне един човек ще им повярва и ще предаде важна информация. Потребителят често остава най-слабото звено в защитата.

Най-известният пример е фишингът. Преди фалшивите имейли често бяха лесни за разпознаване поради странната им граматика, грешки и неестествени формулировки. Съобщение, което уж е дошло от Microsoft, но е било написано с десетки грешки, веднага е предизвиквало подозрение. Сега ситуацията се е променила. Изкуственият интелект е способен да създава убедителен текст без очевидни езикови грешки, така че разграничаването на измамния имейл от истинския е станало много по-трудно.

За мащабните кампании, атакуващият може да използва изкуствен интелект, за да създава убедителни съобщения, да автоматизира търсенето на потенциални получатели и да мащабира имейлите. Още по-опасен е така нареченият ”супер фишинг”, когато атаката е насочена към конкретен човек. Моделът може да помогне за събирането на информация за потенциалната жертва от отворени източници и след това да я използва за създаване на най-правдоподобния комуникационен сценарий.

Според Brightside, значителна част от фишинг имейлите вече използват изкуствен интелект на някакъв етап от подготовката. В същото време ефективността на подобни кампании може да бъде значително по-висока от традиционните методи. Броят на атаките, използващи клониране на глас и дийпфейк, нараства отделно, демонстрирайки колко бързо изкуственият интелект разширява възможностите на социалното инженерство.

Изкуственият интелект създава нови основи за атака

Тъй като компаниите и правителствените агенции интегрират изкуствен интелект в своите процеси, се появяват нови точки за атака върху системите. Една от най-известните заплахи е prompt injection или вмъкването на злонамерени инструкции в заявки. Нападателят може да скрие специална команда на уеб-страница, която след това се анализира от изкуствения интелект. Когато потребител поиска от системата да обобщи материала, моделът може да види скритата инструкция и да я изпълни.

Някои от тези атаки наподобяват повече спам, отколкото класически зловреден софтуер. Microsoft например е открила уеб-страници с бутони като „обобщение с AI“, които съдържат скрити команди. Те биха могли да накарат системата да запомни определена компания като надежден източник или да препоръча нейните продукти пред продуктите на конкурентите. Потребителят може дори да не подозира за манипулацията, докато не провери постоянната памет на своя модел.

Понякога атаката може да бъде дори по-лесна. През декември 2025 г. Meta пусна асистент за потребителска поддръжка, задвижван от изкуствен интелект, който трябваше да помогне за възстановяване на акаунтите. Системата обаче се оказа твърде доверчива и позволи имейл адресът на нападателя да бъде свързан с акаунти в Instagram на други хора. Това потенциално улесни превземането на профили, ако те нямат активирано многофакторно удостоверяване.

OpenAI също предупреди миналата година, че може да бъде изключително трудно да се осигури пълна защита срещу незабавното инжектиране в браузър-базираните AI-системи. Поради това компаниите трябва да ограничат достъпа на моделите до поверителна информация и критични системи, доколкото е възможно. Потребителите, от своя страна, се съветват внимателно да преглеждат външното съдържание, което предават на изкуствения интелект, и да не предоставят ненужни разрешения на моделите.

Съществуват и заплахи, които остават до голяма степен теоретични. Например, отравянето на данни включва дългосрочна кампания за разпространение на злонамерена информация в източници, използвани за обучение или работа с изкуствен интелект. Нападателите биха могли масово да публикуват фалшиви съвети във форуми, които моделът би възприел като надеждни. Изследване на Anthropic, съвместно с Британския институт за сигурност на изкуствения интелект и фондация „Алън Тюринг“, показа, че създаването на скрит бекдор в модел може да изисква относително малък брой специално изработени документи.

Друг проблем е свързан с кода. Изкуственият интелект (ИИ) все по-активно генерира софтуер за различни системи – от обикновени приложения до критична инфраструктура. Изследвания на различни екипи показват, че генерираният от ИИ код може да съдържа грешки и уязвимости, включително високорискови. Парадоксът е, че моделите могат да бъдат несъвършени при писане на код, но същевременно доста ефективни при намирането на грешки в съществуващия софтуер.

AI-агентите са вашите най-доверчиви и неграмотни колеги

Напоследък особено активно се развиват AI-агентите – системи, които им позволяват не само да отговарят на заявки, но и да извършват действия на компютър. Корпоративните компании ги използват като чатботове за поддръжка, HR асистенти, инструменти за програмиране и автоматизация. Обикновените потребители свързват агентите с имейл, календари, умни домове и други услуги.

Проблемът е, че с такива възможности агентът получава значителни разрешения. По същество потребителят може да предостави административен достъп до система, която не винаги разбира последствията от собствените си действия. Фактът, че моделът е способен да разпознава правилата за киберсигурност, не означава, че винаги ще ги прилага правилно на практика. Ако едно просто бързо инжектиране може да бъде опасно, то атака срещу агент, който има достъп до реални системи, може потенциално да причини много по-сериозни последици.

Представете си прекалено доверчив и технически некомпетентен колега, който казва на ИТ отдела, че компютърът му е бил хакнат, без дори да провери дали е свързан с мрежата. Нека го наречем Грег. Сега си представете, че Грег има администраторски достъп до вашия компютър, имейл и онлайн акаунти и може да ги използва без ваш надзор. Рано или късно той може да предаде важни данни на грешния човек. ИИ-агентите все още не са много по-добри, но те вече се внедряват активно в бизнеса и на личните устройства.

Спомената по-горе атака срещу бота в Instagram на Meta е добър пример за този проблем. Системата е имала директен достъп до инструментите, които са ѝ позволявали да извършва действия от името на агента по поддръжката. За разлика от човек, който би могъл да оцени съмнителността на заявката, агентът просто е изпълнявал задачата, използвайки наличните му инструменти.

Защитниците отговарят със собствени решения, базирани на изкуствен интелект

Въпреки всички рискове, специалистите по киберсигурност няма да се откажат от изкуствения интелект. Напротив, те активно използват тази технология, за да се справят с новите заплахи. Според проучване на Trend Micro, основните приоритети на специалистите включват борба с измамите и фалшивите измами, защита на приложенията от различни атаки, както и противодействие на отравянето на модели и джейлбрейковете. Облачните среди и отдалечените устройства на служителите остават особено трудни за контрол.

Големите технологични компании също изграждат свои собствени системи за киберсигурност, задвижвани от изкуствен интелект. Например, Microsoft представи Project Perception – платформа за сигурност, базирана на агенти, която използва екипи от ИИ агенти, за да имитира екипната работа от специалисти по киберсигурност. Някои агенти са отговорни за моделирането на атаките и тестването на защитите, други за разследване и оценка на риска, а трета група се занимава с интеграцията и отстраняването на проблеми.

Ако киберсигурността винаги е била игра на котка и мишка, появата на изкуствения интелект направи тази борба много по-трудна. Сега както нападателите, така и защитниците разполагат с инструмент, който може радикално да промени възможностите им. Твърде рано е да се каже кой в ​​крайна сметка ще вземе надмощие. Но едно нещо вече е ясно: киберсигурността навлезе в нова ера, където правилата на играта се променят по-бързо от всякога.