Малко след като британският външен министър Ивет Купър призова световните сили спешно да разработят общи правила, регулиращи изкуствения интелект, генералният секретар на ООН Антонио Гутериш заяви, че развитието на ИИ изпреварва способността на човечеството да го контролира. На първия глобален диалог на ООН за управлението на ИИ, който започна в Женева, той призова държавите да се споразумеят за международни правила относно ИИ и да направят защитата на децата основен приоритет за глобално регулиране, съобщава Reuters.

Според Гутериш, AI технологиите вече са способни да трансформират икономиката, пазара на труда и да повлияят на изборите и баланса на сигурността. Следователно, международната общност трябва спешно да разработи общи правила за тяхното използване.

„Иновациите се нуждаят от ограничения… За да бъде изкуственият интелект ефективен, той трябва да бъде регулиран“, каза Гутериш.

Двудневният глобален диалог не предвижда подготовката на международен договор. Целта му е да се обсъдят принципите за глобално управление на изкуствения интелект, минимизиране на потенциалните вреди и овладяване на потенциала на тази технология.

По време на срещата делегатите ще разгледат първата независима глобална научна оценка на развитието на изкуствения интелект, изготвена от група от 40 експерти с подкрепата на ООН. Планирано е пълният доклад да бъде публикуван следващата година, когато втората глобална среща също ще се проведе в Ню Йорк.

Гутериш постави особен акцент върху безопасността на децата. Той заяви, че съвременните ИИ системи вече се използват от децата, въпреки че тяхното въздействие върху психичното здраве и развитие остава недостатъчно проучено. Това беше потвърдено преди това от анализ на УНИЦЕФ, който установи, че 20 милиона деца в десет държави вече използват ИИ инструменти, но механизмите за защита на непълнолетните не успяват да се справят с бързото разпространение на технологията.

„Не позволяваме лекарствата да достигат до дете, докато не се докаже тяхната безопасност. Тестваме всяка играчка. И все пак изкуственият интелект вече е проникнал в живота на нашите деца – в образованието им, в приятелствата им, в най-съкровените им въпроси, дори и преди някой да се е запитал как ще им се отрази“, подчертава Гутериш.

Генералният секретар на ООН предложи създаването на международната ангажираност AI Child Safety Pledge, използващ изкуствен интелект, който би изисквал от компаниите да докажат безопасността на своите системи, преди да позволят на децата достъп до тях. Освен това, той каза, че на ИИ системите трябва да бъде забранено да генерират сексуализирани изображения на деца, а ако дете показва признаци на психологически стрес, чатботовете трябва да прекратят взаимодействието и да го пренасочат към лице, способно да му окаже помощ.

Гутериш също така обърна внимание на неравномерното развитие на ИИ технологиите в световен мащаб. Той отбелязва, че усъвършенстваните модели и изчислителните ресурси са концентрирани в малък брой държави и компании, докато развиващите се страни рискуват да изостанат.

Според независим експертен доклад, Съединените щати притежават 75% от изчислителната мощност на 500-те най-мощни суперкомпютъра с изкуствен интелект, докато Китай притежава още 15%. Въпреки че над един милиард души по света вече използват AI чатботове седмично, процентът на тяхното внедряване в развиващите се страни остава значително по-нисък.

Според EuroNews, преди срещата на върха, над 100 международни организации, включително Amnesty International и Save the Children, също призоваха правителствата да засилят защитата на децата от рисковете, свързани с изкуствения интелект. Коалицията, координирана от фондация 5Rights, смята, че отговорността за безопасността на ИИ системите трябва да се носи предимно от компаниите-разработчици, а не от родителите. Организациите предложиха десет ключови мерки, включително:

задължението на компаниите да доказват безопасността на своите продукти за деца още преди пускането им на пазара; въвеждане на финансови санкции за нарушаване на правата на децата; забрана за използване на психологическата уязвимост на непълнолетните при разработването на услуги; Забрана за търговско използване на изображения, гласове и биометрични данни на деца.

„Децата не ни молят да спрем иновациите в областта на изкуствения интелект, но не бива да чакаме, докато щетите бъдат нанесени, и след това да чистим след себе си“, каза Лианда Барингтън-Лийч, изпълнителен директор на фондация „5Rights“, добавяйки, че зачитането на правата на децата „трябва да бъде изискване за правене на бизнес, а не допълнително условие“.

Тези твърдения идват на фона на реалните заплахи, породени от изкуствения интелект. По-специално, чатботът ChatGPT на OpenAI е помогнал за планирането на терористични атаки и е подтикнал хората към самоубийство. Чатботът Grok на xAI също така е генерирал масово голи изображения на деца, които е разпространявал чрез социалната мрежа X.