Следвай Kaldata в Google: Слушай статията0:00 / ~4:191×

Anthropic, eдна от най-големите компании в областта на AI представи законопроект за безопасност на технологията, предвижда доста висок праг за държавна намеса: регулаторните органи ще могат да спрат разработката, да отменят пускането на AI модел или да прекратят неговата работа само в случай, че той представлява „предвидим, непосредствен риск“ за предизвикване на някое от следните събития:

Загиване или сериозно нараняване на повече от 50 души; Икономически щети на стойност от над 1 млрд. долара.

Това се посочва в предложение на компанията, с което се е запознало изданието Politico. Anthropic предвижда дейността на разработчика и неговите AI модели да се оценява периодично от независима трета страна, регистрирана в Министерството на търговията на САЩ. Компаниите ще могат да заплащат за услугите на оценителите, но само при условие, че това няма да повлияе на тяхното мнение.

Anthropic's proposed AI safety bill would allow lawmakers to block a model's release ONLY if it is on the precipice of killing/maiming more than 50 people OR causing $1 billion in damages. This is interesting because it reveals the exact value these companies place on human life.… https://t.co/iW4KM0mos1

— Caitlin Johnstone (@caitoz) October 19, 2026

„Този законопроект отразява предложенията, изложени в нашата система за сигурност на AI, които прокарваме сред законодателите на федерално и щатско ниво от юни насам. Смятаме, че тези мерки са достатъчно обосновани, за да бъдат приложени от Конгреса.“

заяви пред изданието представител на Anthropic

В законопроекта се споменават рисковете, свързани с потенциалното създаване или използване на биологично оръжие, кибератаки с изкуствен интелект и загуба на контрол от страна на лабораторията върху AI моделите или AI агентите. Ако оценителят установи вероятност такова събитие да се случи в близко бъдеще, той трябва да уведоми Министерството на търговията на САЩ в рамките на 72 часа. След това ведомството ще предостави доказателства на Окръжния съд на окръг Колумбия, който трябва да реши дали да спре пускането на AI модела. Интересно е, че документът ограничава правомощията за блокиране до едно ведомство – никое друго министерство или длъжностно лице в САЩ няма да разполага с подобни правомощия.

За сигурността на AI се заговори активно през последните месеци след поредица от инциденти с „изтичане“ на AI агенти във външната среда: в един от първите случаи моделът GPT-5.6 Sol на OpenAI проби защитата на Hugging Face, а наскоро неназовани AI агенти неочаквано получиха достъп до секретни данни на системи на индийски компании.

Главният изпълнителен директор на Anthropic Дарио Амодей по-рано предупреди, че през следващите 6-12 месеца интернет може да бъде превзет от „рояк“ от ботнет мрежи, управлявани от AI и предложи разработването на технологията да се забави. Идеята беше подкрепена от Сам Алтман от OpenAI и Илон Мъск от SpaceXAI, въпреки че не бяха отбелязани сериозни напредъци в тази насока.

Впоследствие технологичните гиганти подписаха споразумение с правителството на САЩ относно „саморегулирането на AI“, а Anthropic заяви, че ще изключва интернет за всички вътрешни тестове на AI моделите. В момента Конгресът работи само върху предложение, което ще задължи най-мощните AI модели да бъдат оборудвани с механизми за аварийно изключване, въпреки че някои сенатори предлагат по-строги условия. Например, Бърни Сандърс от щата Върмонт сравни разработването на свръхинтелигентен AI с незаконното създаване на ядрено оръжие и заяви, че разработчиците трябва да бъдат наказвани с лишаване от свобода до 20 години.

Законопроектът на Anthropic ще бъде поредната инициатива за безопасността на изкуствения интелект, която ще бъде разгледана от Конгреса, но засега не е ясно дали ще получи подкрепа.