Група разузнавателни агенции от цял свят, включително САЩ, отправиха съвместно сериозно предупреждение, че изкуственият интелект (ИИ) „бързо трансформира“ рисковете в киберсигурността. Те призоваха световните лидери да предприемат незабавни и бързи мерки, за да останат една крачка пред злонамерените лица.

Алиансът „Петте очи“ (Five Eyes), в който влизат разузнавателните служби на САЩ, Обединеното кралство, Канада, Австралия и Нова Зеландия, излезе с официална позиция. В нея се посочва, че въздействието на ИИ върху защитните и нападателните киберзаплахи не е въпрос на години, а на броени месеци.

„Въпреки че изкуственият интелект ще ни помогне да подобрим киберзащитата с течение на времето, той също така ускорява скоростта, мащаба и сложността на киберзаплахите. ИИ не е въпрос на бъдещето — той вече е тук“, пишат държавите в своето изявление.

Какво представлява моделът Mythos и защо е опасен?

Компаниите за разработка на технологии отдавна сигнализират, че този инструмент може да даде възможност на хакерите да атакуват много по-бързо, по-евтино и в много по-широк мащаб. Опасенията обаче се засилиха драстично през тази година на фона на новите модели за киберсигурност, създадени от самите ИИ компании, като например модела Mythos на технологичния стартъп Anthropic.

Компанията Anthropic реши да задържи пълното пускане на модела Mythos по-рано тази година, заявявайки, че софтуерът е твърде опасен за масова обществена употреба. От фирмата поддържат тезата, че Mythos е способен да открива уязвимости в системи, които датират от десетилетия. Това, от една страна, улеснява правителствата и разработчиците на софтуер да откриват и поправят пропуските в сигурността, но от друга страна, дава огромно предимство и на киберпрестъпниците.

Според експертите от „Петте очи“, новите технологии намаляват бариерите пред хората с лоши намерения, които нямат дълбоки познания, и едновременно с това увеличават сложността на атаките. По този начин времето между откриването на една слабост в системата и нейното използване за пробив намалява драстично. В същото време обаче, ИИ остава и мощен инструмент за укрепване на самата защита.

Кой е застрашен и какви са препоръките за действие?

Предупреждението на разузнавателните служби е насочено директно към няколко ключови групи, които са изложени на най-голям риск:

Малки и средни бизнеси Големи организации и корпорации Критична държавна инфраструктура Правителствени институции

Службите призоваха лидерите на тези организации спешно да ускорят процесите по обновяване на своите програми (така нареченото пачване), да обърнат внимание на остарелите софтуерни системи, които вече нямат поддръжка, и да се подготвят за евентуални инциденти, преди те изобщо да са се случили.

Основен съвет на експертите е въвеждането на практиките „сигурност по дизайн“ (secure-by-design) и „сигурност по подразбиране“ (secure-by-default). Това означава, че защитата трябва да бъде заложена още при самото създаване на всеки софтуер или компютърна система, а не да се добавя впоследствие като допълнителна кръпка.

Политическият сблъсък и държавната регулация в САЩ

Във Вашингтон се водят сериозни дебати за това как държавната администрация трябва да се справи с рисковете за киберсигурността, произтичащи от най-новите модели. Властите се опитват да намерят баланс между опасенията за безопасността на гражданите и дългогодишния си ангажимент за по-лека регулация, която да не спира развитието на бизнеса и иновациите.

По-рано беше подписана официална заповед, която определя процес на доброволно тестване. Според нея лабораториите за разработка на технологии могат да предоставят своите модели на правителството до 30 дни преди официалното им пускане на пазара, за да бъдат изследвани за специфични рискове. Въпреки че тогава администрацията подчерта, че тези тестове не са задължителни, редица анализатори прогнозираха, че тези обещания няма да бъдат достатъчни.

Само няколко седмици по-късно администрацията издаде директива, която на практика принуди компанията Anthropic да изтегли най-новите си модели, известни като Fable и Mythos. Това решение предизвика сериозно недоволство и остри реакции сред общността, която се занимава с политиките и развитието на изкуствения интелект, тъй като много специалисти видяха в това твърде груба държавна намеса.