Призивите за регулиране на дейността на компаниите, занимаващи се с изкуствен интелект се чуваха още от самото начало на така наречения „хайп“. Същото важеше и за опасенията относно бъдещето на човечеството в новите ни условия, свързани с тази невиждана досега технология. Загрижените хора говореха за проблемите, опасностите и катастрофите, които изкуственият интелект може да предизвика. Интересно е и това, че повечето подобни изявления идваха не само от писатели на научна фантастика, религиозни дейци или политици. Те бяха изказвани и от хора, които са пряко свързани с този пазар. Например, ключови инвеститори и изпълнителни директори на големите компании от сектора посочиха вероятния проблем с безработицата, причинен от AI. Други се опасяваха, че технологията ще попадне в неподходящи ръце, ще контролира оръжия, ще разработва опасни вируси и ще помага на правителствата да създадат цифров концентрационен лагер.

Този път за огромните рискове, свързани с необмисленото развитие на технологията заявиха едновременно няколко ръководители на ключови AI гиганти, както и голям брой учени, работещи в същите тези компании.

Всичко започна с това, че Джейкъб Коксън, един от служителите на Anthropic неочаквано напусна компанията. Преди напускането си той публикува скандален пост, който гласеше следното: „През последните три години провеждах изследвания преди обучението както в OpenAI, така и в Anthropic. Нито една от компаниите не действа отговорно. Те са се впуснали в усъвършенстването на суперинтелекта и рискуват нашите животи.“ Ако вярваме на думите на самия Коксън, той не се тревожеше за собствените си доходи и бъдещите си приходи, от които се наложи да се откаже поради промяната в дейността си: „Честно казано, когато мисля за следващите две години, най-много ме тревожи – чисто егоистично дали изкуственият интелект няма да ме убие.“

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

След тези събития основателят на Anthropic Дарио Амодей описа своите опасения. Той и преди се занимаваше с това да подтиква правителствата на държавите, по-специално на САЩ да регулират изкуствения интелект във всички аспекти. Поради някои идеологически разногласия с Белия дом компанията му дори се сблъска с доста проблеми, като например правителствена забрана за публикуването на новия AI модел Fable 5 (която впоследствие беше оттеглена) или етикетирането на компанията като „заплаха за веригата на доставки“ за американската армия (този правен статут впоследствие беше отменен след съдебен спор). В ново есе, призоваващо технологичните компании и държавата да забавят темпото на развитие на изкуствения интелект, той заяви, че могат да се откроят два основни риска.

На първо място, това е прекалено бързото обучение на AI, което започна да се постига чрез т.нар. „рекурсивно самоусъвършенстване“. Терминът означава способността на AI моделите да ускоряват създаването на следващи поколения: благодарение на динамичното обучение и агентността на AI отпада необходимостта от постоянно ръчно (човешко) обучение. В допълнение към предимствата възниква и важен недостатък. Амодей счита, че съществува вероятност поради такава автономност човечеството да загуби контрол над новите сложни AI системи, тъй като те ще станат прекалено развити за нашето разбиране.

На второ място, той вижда като друга заплаха прекалено голямата автономност на AI ботовете, които създават опасност от ботнет атаки срещу сървърите на частни компании, правителствени структури и в крайна сметка – риск от нечовешка кибервойна. При такива условия хакерските атаки могат да разрушат целия интернет, а не само отделни сайтове, както беше при миналото нападение на AI агенти на ChatGPT срещу сървърите на Hugging Face. Между другото, последната компания също се защити с помощта на AI агенти, но китайски. Тоест аспектите на киберсигурността съответно попадат в рамките на субектността на роботите, а не на реалните хора. Човешкият контрол върху процеса се губи напълно.

Като начин за решаване на тези сложни въпроси и осигуряване на безопасно глобално развитие на AI, Амодей предлага държавно регулиране.

В резултат на въвеждането на нови закони и предпазни мерки за сигурност ще бъде допустимо да се принудят компаниите, занимаващи се с AI да „отстъпят“ и да забавят темпото на развитие, въпреки нежеланието им да го направят. В противен случай, ако контролът върху рисковете се делегира на съвестта на частния бизнес, компаниите ще бъдат изкушени да пренебрегнат безопасността на продукта в името на финансова изгода или за да ограничат конкуренцията.

Освен държавна намеса, Амодей предлага външен надзор от трети страни върху дейността на компаниите, работещи с AI. Като пример за такива външни наблюдатели той споменава нестопанската организация METR. Тя се занимава с оценка на дейността на компаниите, както и на рисковете и проблемите, възникващи вследствие на AI. Именно под нейния надзор корпорациите ще трябва да се държат прилично. Благодарение на докладите и тестовете на METR, AI моделите ще бъдат проверявани за безопасност при употреба от крайния потребител. Данните за безпристрастността на METR обаче са доста оскъдни и не е ясно дали на тяхната оценка наистина може да се има доверие при анализа на реалността на някои рискове. Много от служителите на организацията са бивши служители на Anthropic и OpenAI. Например, има информация, че главният изпълнителен директор на METR е бивша изследователка от екипа на Google DeepMind, която впоследствие е работила няколко години в OpenAI. Това показва, че бившите служители могат да имат конфликт на интереси при извършването на своята дейност.

Връщайки се към основната тема, позицията на Дарио Амодей неочаквано беше подкрепена от двама „големи“ в областта на изкуствения интелект: Сам Алтман, генерален директор на OpenAI, както и Илън Мъск. Първият се съгласи с необходимостта от въвеждане на нови регулации за безопасност и забавяне на развитието, а вторият изрази солидарност с лаконичен туит: „Дарио е прав“.

Dario is right https://t.co/EwKgqQGaUo

— Elon Musk (@elonmusk) September 12, 2026 Предвид тези опасения е добре да припомним фактите за опасността, която представлява изкуственият интелект. Тревогата на обществото и компаниите (независимо дали е реална или не) не е възникнала от нищото. Изкуственият интелект наистина може да се превърне в опасна технология още в близкото бъдеще.

По-рано вече разгледахме ситуация, в която AI беше използван за създаване на вируси, които не съществуват в природата. Но това беше само научен експеримент. Сега новинарските емисии са пълни със случаи, в които различни сили се опитват да злоупотребят, например с AI моделите на Claude за създаване на военни разработки и оръжия, и по-специално биологични. В последния доклад на Anthropic се разкрива, че потребител се е опитал да създаде биологично оръжие с помощта на чатбот – той е имал намерение да предизвика появата на мутирал вирус чикунгуня. В друг доклад се посочва, че руски разработчици са се опитали да заобиколят предпазните мерки за сигурност на AI модела с цел разработване на автономни дронове. Те са принудили Claude да съдейства за генерирането на софтуер за рояк от автономни FPV дронове-камикадзе. Благодарение на програмата дроновете са били в състояние самостоятелно да избират цели и да се координират без участието на оператор.

Реакцията на политическите кръгове на призивите за забавяне на развитието на AI

Сред политиците няма подобна бурна реакция, въпреки че все пак се предприемат някои политически решения. Например, Доналд Тръмп се противопоставя категорично на каквито и да било ограничения върху развитието на изкуствения интелект. Според него това решение само ще доведе до победа на Китай в технологичната надпревара. Tой коментира ситуацията по следния начин: „Разбира се, необходими са определени предпазни мерки, но трябва да се ограничим до минимума“. Въпреки това наскоро реториката му до голяма степен се радикализира: „Единственият контрол или „предпазни мерки“, от които се нуждае AI, е СИЛЕН И УМЕН (с високо IQ!) ПРЕЗИДЕНТ, а в САЩ такъв има.“ Своята последна позиция той аргументира, вероятно, с наличието на икономическа изгода от AI: „Не убивайте кокошката, която снася златни яйца!“.

Ако не се взема предвид отделното мнение на президента, като цяло администрацията на Белия дом все пак се опитва да наложи определени споразумения с китайския конкурент. В най-близко бъдеще ще се състои първият международен диалог между Китай и САЩ относно рисковете в сферата на AI. Някои експерти смятат, че може и да няма втори шанс за регулиране на сектора с цел овладяване на такива опасности.

Позицията на Китай по въпроса за регулирането на изкуствения интелект се различава от американските идеи. Кван И Нг, ръководителка на отдела за международно управление в сферата на изкуствения интелект в организацията „Concordia AI“ в Пекин, която се занимава с въпросите на сигурността на изкуствения интелект счита, че ситуацията не е толкова критична, колкото се опитват да докажат лидерите на американския бизнес в областта на изкуствения интелект. Според нея политиците в Китай разглеждат изкуствения интелект като обикновена необходима технология, подобна на производството на електроенергия или развитието на програмирането, и затова не виждат достатъчно основание за забавяне на технологията.

Ползата от забавянето

Една от разновидностите на оправданата конспирология е разпространеното в медиите мнение, според което се счита, че забавянето на развитието на AI моделите е изгодно единствено за гигантите в областта на изкуствения интелект и монополистите в този сектор. Например, на критиците на държавно регулираното забавяне им се струва, че по този начин големите компании като OpenAI, Anthropic и xAI просто искат да запазят доминиращата си позиция на пазара на AI. В подобна хипотеза се крие много рационална основа. Преди да излязат на IPO (влизане на компаниите на борсата, за да се превърнат в публични търговски корпорации), те трябва да затвърдят статута си на създатели на „авангардни, водещи“ AI модели, да намалят конкуренцията и да се утвърдят, възползвайки се от бавния темп на развитие на всички останали разработчици на изкуствен интелект. Всичко това се постига благодарение на държавен и глобален правен контрол върху тяхната дейност.

Също така е справедливо да се счита, че забавянето е средство за избягване на отговорност за липсата на напредък в бъдеще. Има се предвид, че за компаниите е по-лесно да забавят развитието на AI, отколкото да обясняват на инвеститорите и спонсорите защо напредъкът на моделите е или незабележим, или твърде скъп (тъй като отнема много ресурси на компанията и токени на потребителите).

Това се потвърждава и от нежеланието на други гиганти в областта на изкуствения интелект, които леко изостават по отношение на възможностите или качеството на крайния продукт, да намалят собствените си капацитети за обучение на AI. Ако се съгласят с предложението на гигантите в областта на AI, тези компании, които се опитват да наваксат в индустрията биха отстъпили пред постиженията на конкурентите си. Например, Марк Зукърбърг активно се противопоставя на забавянето. Основателят на Meta казва, че всяка лаборатория за изкуствен интелект трябва сама да взема решения и да създава предпазни мерки за сигурност, за да не навреди на своите потребители, а не да принуждава други компании да правят това под претекст за държавно регулиране.

Подобно становище изрази и Дженсен Хуанг, главен изпълнителен директор на NVIDIA – друг голям играч в областта на изкуствения интелект. Той настоява, че предпазните мерки за сигурност, разбира се, са необходими и са от първостепенно значение. Въпреки това, според него, това не е правен въпрос, а инженерен:

„Това е напълно очевидна стъпка: действате предпазливо, докато не сте сигурни, че пускате продукт, който пазарът ще оцени.“

Той също така добави:

„Ако не сте сигурни в безопасността на продукта, не го пускайте.“

По този начин за големите играчи, които печелят е изгодно да създадат монопол и да забавят растежа на конкуренцията. Това обаче може да се осъществи само при условие, че всички участници в индустрията бъдат принудени да се съгласят с новите правила на играта чрез държавна намеса. По-малко успешните участници едва ли биха се съгласили с предложените перспективи за забавяне без външен натиск.