Обсъжданията около опасностите от изкуствения интелект придобиха невиждана острота, а екзистенциалната тревога в технологичния сектор вече е осезаема. Какво трябва да направи един специалист, ако усеща, че участва в изграждането на технология, която може да доведе до края на човечеството? Този тежък въпрос стои в центъра на вниманието на цялата индустрия.

Напрежението се покачи драстично след оставката на Джейкъб Коксън, изследовател от компанията Anthropic. Миналата седмица той напусна поста си с изключително остро предупреждение. Според него технологичните гиганти „играят на хазарт с живота ни“, а самите хора, които разработват тези системи, „искрено вярват, че технологията може да унищожи всички ни до края на десетилетието“.

План от три стъпки и рядко единодушие между технологичните лидери

Бързата реакция след думите на Коксън ескалира през уикенда, когато ръководителите на най-големите компании в сектора публично постигнаха съгласие за следващите действия. В свое публикувано есе изпълнителният директор на Anthropic, Дарио Амодеи, заяви, че е напълно убеден в необходимостта от промяна в бързото темпо на напредък. Той предложи план от три стъпки, насочен към гарантиране на безопасността на технологията.

Малко след това Илон Мъск и изпълнителният директор на OpenAI Сам Олтман публично подкрепиха предложения план — събитие, което се случва изключително рядко между конкурентите в този бранш. В социалната мрежа X Мъск написа краткото „Дарио е прав“. Олтман също потвърди съгласието си, като допълни, че темпото на развитие е било основна тема за разговори в OpenAI през последните седмици.

Забавяне на финансовите планове и отлагане на борсовия дебют

Притесненията около сигурността оказаха пряко влияние и върху бизнес плановете на водещите компании. В интервю за списание Fortune Сам Олтман обяви, че OpenAI може да се откаже от първично публично предлагане (IPO) през тази година. По негови думи „моментът за излизане на публичния пазар в момента е изключително неподходящ“, визирайки потенциалните рискове и нуждите от допълнителен контрол върху развитието на моделите.

Нравствената дилема пред служителите: Промяна отвътре или оставка

С нарастването на опасенията за безопасността, служители от Anthropic и OpenAI все по-често изразяват публично своите притеснения. Журналистката Сара Нидълман обръща внимание на основния въпрос, пред който са изправени много от специалистите в сектора: следва ли да напуснат работа поради страх от потенциален апокалипсис, или е по-добре да останат?

Част от работещите в индустрията вярват, че могат да бъдат по-полезни, ако останат вътре в компаниите. Според тях това им дава възможност да поставят важни въпроси, да настояват за създаването на строги защитни механизми и да влияят върху решенията, преди те да бъдат финално приети. От друга страна, техни колеги смятат, че оставането на работа в тези организации единствено легитимира една надпревара, която според мнозина вече излиза извън безопасните граници.