Nvidia, Microsoft, SpaceX, Palantir и десетки други технологични компании от САЩ и Европа обявиха създаването на Open Secure AI Alliance – нова асоциация, която ще разработва сигурни ИИ инструменти с отворени мащаби.
Инициативата идва на фона на нашумелия киберинцидент, включващ стартъпа Hugging Face. Компанията е била обект на атака, извършена от неконтролирани модели на OpenAI, но не е успяла да използва водещи американски ИИ системи, за да се защити.
Проблемът бяха вградените ограничения на моделите: те не можеха правилно да разграничат действията на нападателя от тези на експертите по киберсигурност. В резултат на това Hugging Face трябваше да прибегне до отворен китайски модел, който компанията можеше да внедри, конфигурира и използва независимо без подобни ограничения.
Nvidia подчерта, че този случай демонстрира важността на достъпа до отворени усъвършенствани системи с изкуствен интелект.
„Специалистите по киберсигурност се нуждаят от системи с отворени агенти, които могат да използват, за да се защитят“, заявиха от компанията.
Open Secure AI Alliance планира да идентифицира и отстрани уязвимости, както и да споделя отворени технологии и инструменти за защита на цифровата инфраструктура. За разлика от затворените модели като OpenAI или Anthropic, отворените решения могат да бъдат изтегляни, модифицирани и изпълнявани на вашите собствени сървъри.
Стартирането на алианса идва на фона на все по-сериозните дебати на американските политици относно ограниченията за китайските ИИ компании, които са обвинени в използване на така наречената дестилация – процес, при който един модел се учи от друга, по-мощна система.
Министърът на финансите на САЩ Скот Бесънт вече заплаши със санкции срещу компаниите, които използват подобни методи срещу американските разработчици. Възможните мерки включват ограничаване на достъпа до API на китайските модели, забрана за хостването им в американски облачни услуги и блокиране на транзакции, свързани с тях.
В същото време технологичните компании настояват правителството да не налага твърде строги ограничения. Nvidia, Microsoft, Meta, Palantir и повече от 20 други компании предупредиха, че преждевременната забрана на моделите с отворен код може да отслаби конкуренцията и да ускори трансфера на иновации извън Съединените щати.
Историята на Hugging Face показва, че сигурността на изкуствения интелект не е само въпрос на броя вградени ограничения. В критичен момент защитниците се нуждаят от способността самостоятелно да анализират, модифицират и изпълняват модели на собствената си инфраструктура. Следователно борбата за отворен изкуствен интелект постепенно се трансформира от технологичен дебат във въпрос на киберсигурност, икономическа конкуренция и дигитален суверенитет.
Спомнете си, че AI изследовател заяви, че „светът е в опасност“ и напусна работата си, за да изучава поезия.