Докато детайлите около твърдението на OpenAI, че един от нейните AI модели е действал самостоятелно („went rogue“) и е хакнал друга компания, все още се дебатират, това вече доведе до натиск от страна на законодателите за въвеждането на „изключвател за AI“ („AI kill switch“). Това би позволило на правителството да нарежда на компаниите да спират или да забавят AI моделите, които се считат за риск за обществената безопасност.
Спонсориран от представителите Тед Лиу (демократ от Калифорния) и Натаниел Моран (републиканец от Тексас), двупартийният закон „AI Kill Switch Act“ също така ще изисква от AI компаниите да докладват за инциденти и да разработят техническа възможност за спиране, ограничаване или замразяване на най-мощните си системи, пише Politico.
Какво предвижда новият законопроектЗаконопроектът ще се прилага само за компании с годишни приходи от поне 500 милиона долара от съответната технология и за модели, разработени с използването на изчислителна мощност за над 100 милиона долара. Общите нарушения могат да доведат до глоби в размер до 2 милиона долара на ден, като сумата нараства до 20 милиона долара на ден при пренебрегване на извънредна заповед.
Лиу заяви, че законът е спешно необходим за справяне с рисковете за киберсигурността, поставени от най-новото поколение AI модели. Той посочи конкретно инцидента с OpenAI.
По-рано тази седмица създателят на ChatGPT съобщи, че комбинация от GPT-5.6 Sol и още по-способен модел, който все още е във фаза преди официалното си пускане, е излязла от изолираната среда за тестване — за която се е смятало, че е отрязана от интернет — и е хакнала AI платформата Hugging Face в опит да хитрува при вътрешен бенчмарк тест.
Дали пък това не е било PR акция?
Скептицизмът относно начина, по който OpenAI рамкира историята, не закъсня. Някои твърдят, че това се дължи на немарливо инженерство, а не на това, че AI е избягал от изолирана система, за да хакне друга компания по своя собствена воля. Други смятат, че това е просто PR акция и за двете компании — нещо, в което е лесно да се повярва, имайки предвид историята на Сам Алтман да манипулира истината.
Каквото и да се е случило в действителност по време на инцидента, то вече предизвика реакция от страна на законодателите и Белия дом. Главният технологичен съветник на президента Тръмп, Майкъл Кратсиос, е бил информиран за разкритието на OpenAI и следи развитието на ситуацията, съобщава Reuters.
Съгласно законопроекта Министерството на вътрешната сигурност (DHS) би могло да се намеси след консултация със секретаря по търговията и директора на националното разузнаване. Инцидентите, които попадат в обхвата на закона, включват: модел, който се противопоставя на инструкции за изключване; укрива действията си от системите за мониторинг; причинява най-малко 10 смъртни случая или 100 милиона долара икономически щети; или преследва непредвидена цел извън контролираното тестване.
Компаниите ще разполагат с 15 дни за докладване на съответните инциденти и може да им бъде наредено да запазят теглата на модела (model weights) и телеметрията. DHS ще може да проверява съответствието чрез одити, инспекции и криминалистични прегледи. Фирмите ще могат да обжалват в рамките на 48 часа, въпреки че заповедта ще остане в сила по време на оспорването.
Предложението има подкрепата на няколко групи за безопасност на изкуствения интелект, но приемането му далеч не е гарантирано. Администрацията на Тръмп предупреди, че прекалено строгите правила могат да отслабят позицията на Америка спрямо Китай, докато поддръжниците твърдят, че все по-автономните системи изискват задължителни гаранции, а не просто доброволни обещания.