ИИ може да опрости създаването на биологични оръжия: ръководителите на OpenAI, Google и Anthropic бият тревога

Ръководителите на големи компании в областта на изкуствения интелект призоваха Конгреса на САЩ да засили надзора върху снабдяването със синтетична ДНК и РНК, за да се предотврати потенциалното използване на изкуствения интелект за създаване на опасни патогени. Съответното писмо е подписано от главния изпълнителен директор на OpenAI Сам Алтман, главния изпълнителен директор на Anthropic Дарио Амодей и CEO-то на Google DeepMind Демис Хасабис, според The ​​Wall Street Journal.

Авторите на петицията предлагат законово да задължат компаниите, продаващи синтетични нуклеинови киселини, да проверяват клиентите си и да анализират поръчките за потенциални рискове. Ако бъдат открити опасни комбинации от ДНК или РНК, такива поръчки трябва да бъдат блокирани.

В писмото се отбелязва, че развитието на изкуствения интелект има потенциал значително да намали бариерите пред създаването на биологични оръжия. Подписалите вярват, че технологиите, които вече ускоряват научните открития и разработването на лекарства, могат едновременно да бъдат използвани от престъпниците за създаване на нови патогени.

„Системите с изкуствен интелект се усъвършенстват бързо и наред с невероятните ползи за науката и медицината, съществува реална възможност бариерите на знанието, които исторически са пречили на нападателите да се сдобият с биологични оръжия, да бъдат значително отслабени“, се казва в изявлението.

Писмото е инициирано от два американски аналитични центъра, специализирани в технологичната политика. Те определят биосигурността като една от малкото теми, които обединяват представителите на различни политически лагери, изследователи и ръководители от конкуриращи се технологични компании. Писмото е подписано и от Мустафа Сюлейман, ръководител на ИИ отдела в Microsoft, и Александър Уанг, главен директор по изкуствения интелект в Meta.

В документа се отбелязва също, че настоящите механизми за контрол са предимно доброволни или се прилагат само за организациите, които получават федерално финансиране. Поддръжниците на новите разпоредби смятат, че Конгресът трябва да приеме отделен закон, който да се прилага за всички купувачи на синтетични нуклеинови киселини. Междувременно критиците предупреждават, че допълнителните изисквания биха могли да създадат финансов натиск върху стартиращите компании и да забавят развитието на биотехнологичната индустрия.

Дийн Бол, бивш съветник по изкуствен интелект на президента на САЩ Доналд Тръмп, който помогна за организирането на кампанията в подкрепа на писмото, заяви, че потенциалните разходи са оправдани от мащаба на рисковете. Той твърди, че заповедите за проверка за синтетични биологични материали са разумно изискване, предвид заплахата от биологични оръжия.

Апелът дойде малко след като Доналд Тръмп подписа изпълнителен указ, който да контролира AI моделите и киберсигурността. Документът е част от новия подход на администрацията за регулиране на индустрията след отмяната на предишни регулации, въведени при Джо Байдън.