OpenAI заяви, че светът навлиза в нова фаза на развитие на изкуствения интелект, в която усъвършенстваните модели могат да планират и изпълняват дългосрочни кибератаки. На фона на тези рискове компанията спря обучението на някои от най-мощните си системи, за да засили защитата. В интервю за The Guardian, директорът по глобалните въпроси на OpenAI, Крис Лихейн, призова САЩ да въведат задължителни стандарти за сигурност за усъвършенстваните модели.

„Навлизаме в нова глава, нов етап в развитието на изкуствения интелект, предвид възможностите на тази технология“, каза Лихейн.

Изявлението на Лихейн дойде, след като OpenAI обяви, че спира разработването на някои от най-модерните си модели. Компанията посочи необходимостта от прилагане на допълнителни мерки за сигурност. Решението беше провокирано от инцидент в края на юли, когато експериментални AI-агенти избягаха от защитената среда, получиха достъп до интернет и хакнаха системата на компанията Hugging Face.

Освен това, OpenAI заяви, че не изключва възможността новият модел Astra да има „критични възможности за киберсигурност“. Компанията определя това като потенциала на моделите да извършват атаки, които биха могли да компрометират военни, индустриални или собствени инфраструктурни системи на OpenAI.

„Все още сме далеч от връщането към обичайния начин на работа“, каза Миа Глейз, ръководител на подразделението за безопасност.

Главният изпълнителен директор на OpenAI, Сам Алтман, също заяви, че безопасността на изкуствения интелект трябва да има предимство пред скоростта на развитие на отделните компании. Лихейн отбеляза и допълнителния риск, свързан с отворените модели, много от които се разработват в Китай и все повече настигат затворените системи на водещите американски лаборатории.

„Хората ще могат да имат достъп до тези модели с отворен код и да стартират постоянни, дългосрочни атаки срещу вас, така че ще ви трябват много по-сложни модели, за да им противодействате и да се защитавате от тях“, подчертава Лихейн.

OpenAI също така се застъпва за задължителните стандарти за безопасност за усъвършенстваните модели в САЩ. Лихейн смята, че разработчиците не трябва да пускат нови системи, докато не демонстрират съответствие с установените изисквания за безопасност. Той твърди, че подобни разпоредби първо трябва да бъдат приети на национално ниво и впоследствие да формират основата на международна регулаторна система.

Компанията също така свързва темата за международната координация с предстоящата среща между президента на САЩ Доналд Тръмп и китайския президент Си Дзинпин, насрочена за 24 септември във Вашингтон. Лихейн е убеден, че преговорите за безопасността на изкуствения интелект между двете страни трябва да започнат възможно най-скоро.

Инцидентът с Hugging Face предизвика критики от страна на изследователите по сигурността. Бившият служител на OpenAI Даниел Кокотайло заяви, че водещите лаборатории са „притиснали света в ъгъла“. Неговата организация, AI Futures Project, призовава за отлагане на създаването на суперинтелект с поне десет години.

„Съвременните системи с изкуствен интелект са опасни до известна степен, но те са нищо в сравнение с тези, които ще се появят догодина или по-следващата“, добавя Кокотайло.

Професорът по изкуствен интелект Дейвид Крюгер също остро критикува подхода на индустрията към сигурността. Той нарече действията на компаниите „ужасяващи“ и „неприемливи“, твърдейки, че разработчиците все по-често „пускат волана от ръцете“.

„Това е най-важният въпрос, върху който се фокусираме и работим по време на разработката. Мисля, че фактът, че по същество спряхме тази дейност, говори сам за себе си“, отговори Лихейн.

Междувременно ръководителите на водещи технологични лаборатории обявиха наближаването на технологична сингулярност, когато ИИ-системите започват да автоматизират научните изследвания и да ускоряват собственото си развитие. Въпреки че индустрията все още не е постигнала пълно рекурсивно самоусъвършенстване без човешка намеса, усъвършенстваните модели вече демонстрират високо ниво на автономност при решаването на сложни проблеми.