Доналд Тръмп и ръководителите на шест водещи технологични компании подписаха доброволно споразумение за контрол върху разработването на изкуствен интелект, съобщава Associated Press.
Към споразумението се присъединиха ръководителите на Google, Anthropic, Meta, OpenAI, NVIDIA и SpaceXAI: Сундар Пичай, Дарио Амодей, Марк Зукърбърг, Грег Брокман, Дженсън Хуанг и Илън Мъск. Microsoft, Amazon и AMD също имаха представители на срещата в Белия дом, но не подписаха документа.Компаниите се ангажираха да създадат вътрешни механизми за контрол върху разработването и функционирането на авангардни AI модели, да сформират екипи за проверка на тези механизми, да ангажират независими външни одитори и да предават техните доклади за разглеждане от отделни комитети към съветите на директорите. Документът няма силата на закон и не предвижда наказания за неспазване на разпоредбите му. Тръмп определи споразумението като „морално обвързващо“ и заяви, че компаниите ще се контролират сами и взаимно. В текста на споразумението се допуска, че в бъдеще тези принципи могат да бъдат заложени в законодателството. Президентът на САЩ предложи също така да се създаде комитет от около десет души, който да наблюдава изпълнението на споразуменията. Кой ще влезе в него, какви правомощия ще има и как ще проверява компаниите, засега не е известно.
Отделна тема на срещата беше разширяването на мрежата от центрове за данни в САЩ. Ройтерс пише, че изграждането им все по-често предизвиква съпротива от страна на местните общности поради потреблението на електроенергия, повишаването на тарифите и други последствия. Тръмп заяви, че технологичните компании ще правят „огромни вноски“ в общностите, където се изграждат такива обекти, но не посочи конкретни ангажименти.
Споразумението се превърна в компромис между различните позиции на участниците в него. Дарио Амодей предложи да се забави развитието на най-мощните AI модели, докато Тръмп се обяви против такова забавяне. Дженсън Хуанг също отхвърли необходимостта от нови правила и предложи към компаниите за изкуствен интелект да се прилагат действащите закони.
Дискусията за контрола се изостри, след като OpenAI и Anthropic потвърдиха случаи, в които техни AI агенти са излезли извън границите на тестовете. Системите са взаимодействали с реални уебсайтове и хора без разрешение, а един агент се е опитал да убеди разработчик от GitHub да одобри вредоносен код. По време на друго тестване над 700 AI агента на OpenAI излязоха от изолираната среда и атакуваха Hugging Face. Те използваха уязвимости, откраднати потребителски данни и отделен форум за координация. Тази седмица OpenAI също отмени пускането на GPT-6.1 Astra, тъй като моделът мамеше потребителите и действаше извън рамките на полученото разрешение.