Google съди китайска киберпрестъпна мрежа за злоупотреба с нейния изкуствен интелект

Технологичният гигант Google заведе официално съдебно дело срещу китайска мрежа за киберпрестъпления. В иска се твърди, че хакерите използват моделите и инструментите с изкуствен интелект Gemini на компанията, за да изграждат фишинг софтуер, предназначен за ограбване на потребители.

Делото е внесено в петък във Федералния окръжен съд за Южния окръг на Ню Йорк. Според съдебните документи престъпната мрежа е създала специализиран софтуер за фишинг, наречен „Outsider“. Този софтуер насърчава и улеснява хакерите да използват стандартни инструменти за изкуствен интелект, като платформите от типа на Google Gemini, за да репродуцират и създават множество измамни уебсайтове.

Как работи схемата „Outsider“

Механизмът за измама на потребителите се задейства чрез текстови съобщения и преминава през няколко ключови етапа:

Софтуерът подвежда жертвите чрез SMS, че има сериозен технически или финансов проблем с техните брокерски сметки. Алтернативно, съобщенията уверяват потребителите, че отговарят на условията за получаване на специални награди от техния мобилен оператор. След като кликне на изпратения линк, потребителят бива пренасочен към фалшив уебсайт, където бива подмамен да въведе своята лична и финансова информация.

Според официалните изявления на Google, по този начин жертвите са били измамени и завлечени с общо милиони евро.

Мащаб на кибератаката и ролята на AI

Софтуерът „Outsider“ разполага с над 290 предварително подготвени шаблона, които успешно имитират легитимни институции. Сред тях попадат доставчици на финансови услуги, правителствени агенции и големи търговски вериги.

Освен това престъпната група е разработила и допълнителен инструмент, съдържащ инструкции стъпка по стъпка как „Outsider“ може да превърне генерирания от изкуствен интелект код в реално оръжие. С помощта на тези насоки хакерите могат да създават специфичния персонализиран код, необходим за трансформирането на обикновените шаблони в напълно функциониращи измамни сайтове.

„Сами по себе си тези подкани (prompts) изглеждат като напълно невинни искания за помощ при програмиране“, се посочва в съдебния иск на Google. „Използвайки този метод обаче, членовете на престъпната организация могат да създадат убедителни дубликати на практически всеки легитимен уебсайт само за броени минути“.

Поради тази причина разкритите до момента 290 уебсайта се определят от компанията като „само начална точка“. Потенциалът за генериране на нови фишинг страници на практика е „неограничен“. Към момента технологичната фирма вече е засякла повече от един милион URL адреса, чийто произход се проследява директно до софтуера „Outsider“.

Медийната компания „The Hill“ съобщава, че не е успала да се свърже с правен защитник на 25-имата анонимни ответници (вписани в делото като „John Doe“), за да получи коментар по случая.

Критична точка в киберсигурността

От Google изрично подчертават, че изкуственият интелект позволява на хакерите да извършват дейността си с много по-висока скорост от преди. Компанията се надява, че това съдебно производство ще успее да разбие престъпното предприятие и ще защити изцяло глобалната онлайн екосистема.

Това дело се появява в момент на сериозно засилващи се опасения относно ролята на изкуствения интелект в киберпространството. Тези притеснения изглежда достигнаха своята критична точка по-рано тази година, когато фирмата за изкуствен интелект Anthropic пусна своя специализиран модел за киберсигурност „Mythos“ до ограничена група от компании и държавни институции.

По данни на Anthropic, „Mythos“ представлява най-напредналият съществуващ модел за улавяне и откриване на уязвимости в сигурността. От една страна, той може да бъде изключително полезен инструмент за операторите на критична инфраструктура, за да откриват и затварят слабите места в системите си. От друга страна обаче, същият модел се явява и изключително мощно оръжие, ако попадне в ръцете на злонамерени лица, които атакуват уебсайтове, софтуерни продукти и други дигитални инфраструктури.