Как Иран превърна ChatGPT и Gemini в оръжия за кибервойна

Докато политиците от различни страни се опитват да уредят ситуацията в Близкия изток, киберотделът на иранската армия активно използва големите езикови модели (LLM), разработени от западните страни за създаване на злонамерен софтуер и провеждане на кибератаки, пише Financial Times, позовавайки се на източници в сферата на киберсигурността и технологичните компании.

В статията се посочва, че ChatGPT, Gemini и други западни AI алгоритми са ускорили кибероперациите на Иран, като помагат за разработването на злонамерен софтуер и генерирането на фишинг писма на безупречен иврит и арабски език. Невронните мрежи също позволяват да се провеждат кибератаки с безпрецедентен мащаб и скорост. Такъв подход позволи на Иран, който се намира в крехко примирие с Израел и САЩ да продължи да оказва натиск в цифровата среда върху своите по-развити противници. Това се постига чрез сканиране на интернет за наличие на уязвимости във вражеските ИТ системи и формиране на защита за собствените уязвими места.

ОАЕ, които бяха засегнати от ракетни удари и атаки с дронове по време на военните действия заявиха, че ежедневно са се сблъсквали с над половин милион кибератаки, извършвани с помощта на ChatGPT. Израел е бил подложен на вълни от фишинг имейли и текстови съобщения, в някои от които на хората е било предложено да сътрудничат на иранското разузнаване.

Отбелязва се, че иранските хакери отдавна експериментират с AI, но появата на производителни големи езикови модели ги е направила особено опасни.

„Всичко това се прави автоматично. Те използват всеки наличен инструмент, за да ускорят усилията си с помощта на AI.“

смята Гил Месинг, специалист от израелска компания за киберсигурност

Иранските атаки често зависят от това колко бързо злоумишлениците успяват да убедят жертвата да кликне върху подозрителен линк. За да спечелят доверие и да накарат жертвата да свали бдителността си, може да са необходими седмици на общуване под чуждо име.

„Ако сте от Техеран и се опитвате да се престорите на служител в отдел „Човешки ресурси“ на военен подизпълнител, това е трудна задача – да разговаряте с някого в продължение на месец и да изглеждате като човек, живеещ в Калифорния.“

азказа служител на компания, работеща в сферата на информационната сигурност

Малко преди началото на конфликта през февруари тази година Google установи, че хакерската групировка APT42, свързана с иранските власти използва Gemini именно за такива цели. Западните компании полагаха огромни усилия за разкриване на ирански акаунти, но откриването на такива профили просто се превърна в игра на котка и мишка.

OpenAI заяви, че редовно е сигнализирала за опити на свързани с Иран субекти да злоупотребяват с услугите на компанията и е пресичала такива опити. Добавиха, че обикновено злонамерените лица са използвали AI алгоритми за различни видове дейности, включително провеждане на изследвания, превод, писане на скриптове и отстраняване на грешки в програмния код. Официалните представители на Google отказаха коментар по този въпрос. Миналата година Google откри, че иранските хакери използват Gemini по-активно, отколкото техните по-напреднали севернокорейски, руски или китайски колеги. Членовете на APT42 са използвали Gemini, за да получат информация за това как да заглушават американските изтребители F-35.

Усилията на Иран за интегриране на изкуствения интелект във военната сфера не се ограничават до провеждането на кибероперации. Според данни на Financial Times, около 300 статии в ирански военни списания през последните 5 години са били посветени на изследвания за укрепване на радиоелектронните средства с помощта на изкуствен интелект и ускоряване на вземането на решения в командните центрове на бойното поле. В допълнение към това са провеждани изследвания за подобряване на системите за насочване на дронове и системите за насочване към подводни цели.

Постиженията на западните технологични компании са помагали на Иран да навакса изоставането си и по-рано. Тъй като в иранския елит има малко хора, които говорят свободно английски, услугата „Google Преводач“ помагаше за по-бързото изучаване на западните изследвания в областта на отбраната. За това разказа специалистът по иранските въоръжени сили от Вашингтонския институт за близкоизточна политика Фарзин Надими.

Според експертите, използването на AI от Вашингтон в кампанията срещу Иран е позволило да се постигне желаният резултат значително по-бързо. САЩ разчитат на системата Maven Smart System на Palantir за управление на силите на бойното поле и на AI модела Claude на Anthropic за бърза интерпретация на разузнавателни данни, търсене на потенциални цели за атаки, както и за предоставяне на обратна връзка в реално време директно по време на бойните действия.

Иран, чиято икономика и изследователски институти бяха отслабени от санкциите все още изостава значително в областта на изкуствения интелект. Въпреки това иранските военни проявиха креативност. Някои експерти съобщиха, че Иран е по-успешен в разпространението на пропаганда в интернет: държавните акаунти редовно публикуват вирусни видеоклипове, създадени с помощта на невронни мрежи и осмиващи американския президент.

Иран обяви интегрирането на AI в своите ракети и безпилотни летателни апарати. По-рано се появиха твърдения, че военните разполагат с крилати ракети със системи за насочване на базата на AI, както и с навигационни системи и системи за избягване на средствата за радиолокационно потискане. Доколко успешно тези разработки са били приложени в реални бойни условия, не се уточнява. Има признаци за използване от Иран на примитивни AI алгоритми за нанасяне на удари по целия Персийски залив. Също така не се изключва, че Иран е използвал AI за прогнозен анализ, определяне на местоположението на американските военни преди нанасянето на удари по тях.

Анализаторите смятат, че Иран с голяма вероятност използва AI по начини, които са трудни за откриване отвън. Страната е изградила по-голямата част от своята AI инфраструктура върху AI модели с отворен код и местни разработки, които се използват предимно в затворени мрежи, недостъпни за широк кръг от потребители.

„Това, което може да се забележи, е само върхът на айсберга.“

смята един от източниците

Миналата година Иран започна да експериментира с национална платформа за изкуствен интелект, която трябва да продължи да функционира дори в случай, че страната загуби достъп до глобалната мрежа. Платформата беше разработена от Тегеранския университет „Шариф“, който е подложен на строги санкции от западните страни поради тесните си връзки с военните. Израелските и американските въздушни удари в началото на април нанесоха сериозни щети на центъра за обработка на данни, в който се намира основната инфраструктура на ИИ-платформата, както и на лабораториите, занимаващи се с изследвания в областта на ИИ. Въпреки това е малко вероятно Израел и САЩ да успеят напълно да унищожат постиженията на Иран в тази сфера.