Бързото развитие на генеративните модели премина прага, отвъд който конвенционалните технологични предупреждения вече не важат. По време на откровен разговор в YouTube канала Decoder with Nilay Patel, съоснователят на Microsoft и председател на фондация Gates Foundation Бил Гейтс заяви, че човечеството е изправено пред най-опасното изобретение в своята история.
Технологичната индустрия открито говори за рисковете, но обществото и държавните институции все още таят опасна илюзия, че това е просто поредната вълна от автоматизация, подобна на предишните индустриални революции. Гейтс подчертава, че не е „обреченик“, защото по-лошо от това да си вестник на тревожни новини е да не предупреждаваш хората за предизвикателствата, за които все още имаме възможност да вземаме съзнателни решения.
Защо неотложността на рисковете, свързани с изкуствения интелект, е реална заплаха?Скептиците често сравняват настоящите опасения относно изкуствения интелект със страховете от миналото, които никога не са се сбъднали, и смятат вътрешните предупреждения за обикновен PR или начин за надуване на „балон“. Вътрешните предупреждения обаче са напълно искрени и верни. Мащабът на настоящите възможности на моделите е коренно различен: те вече демонстрират способността да намират уязвимости в кода, да изграждат биологично мислене, да изграждат дълбоки социални връзки с хората и значително да променят пазара на труда.
Основната краткосрочна заплаха не е абстрактната загуба на контрол върху свръхразузнаването, а използването на модели без подходящи предпазни мерки. Ако бариерите могат лесно да бъдат премахнати от флагманските решения, инструментите с безпрецедентна мощ се озовават в ръцете на нападателите. Способността за провеждане на масивни кибератаки или разработване на биологични оръжия вече не е изключителен прерогатив на великите сили – тя може да бъде получена от автономни групи или престъпни групировки.
Загуба на корпоративни идеали и държавно регулиранеВсички водещи разработчици като OpenAI, Anthropic и DeepMind са започнали с възвишени идеали и сложни корпоративни структури, предназначени да предотвратят рисковете от неконтролирана комерсиализация. Например, OpenAI е създаден с идеята да не се отваря кутията на Пандора, ако технологията стане твърде мощна. Тази идея обаче работи само ако има един-единствен играч. Когато на границата се появят десетки конкуренти, пазарната динамика не позволява на никоя компания самостоятелно да забави развитието или да спре надпреварата.
„Защитата на обществото е абсолютна необходимост. Когато има множество конкуриращи се фирми, нивото на отговорност вече не може да бъде единствено на компаниите. То става пряка отговорност на държавата, както е при всеки друг опасен продукт.“, Отбелязва Бил Гейтс.
Опитите за избягване на правителствените стандарти под претекст „ускорение“ само изострят ситуацията. Акселератори като Бен Хоровиц твърдят, че изследванията в областта на сигурността (по-специално в Anthropic) са „проява на изчезване“ и безпочвено ги сравняват с изследванията за биологично усилване на функцията, приписвайки ги на Гейтс за причиняване на COVID-19. Гейтс категорично отхвърли подобни обвинения, наричайки ги абсурдни опити за дискредитиране на темата за сигурността. Регулирането на въздушния транспорт или автомобилната индустрия е общоприет стандарт, въпреки че заплахите от изкуствения интелект са несравнимо по-големи. Забавянето на развитието в световен мащаб е почти невъзможно без споразумения на ниво ядрен одит (например с участието на Китай), така че държавният контрол върху съществуващите решения остава ключов.
Споровете относно AGI, съзнанието и институционалното довериеДебатът дали изкуственият интелект е съзнателен или е постигнал нивото AGI – изкуствен общ интелект често отвлича вниманието от практическите предизвикателства пред сигурността. Гейтс е съгласен с Мустафа Сюлейман (съосновател на DeepMind и ръководител на Microsoft AI): загрижеността за „моралния статус“ или човешките черти на ИИ (както е посочено в „конституцията“ на Anthropic) не трябва да бъде приоритет, когато човечеството е изправено пред реални заплахи за инфраструктурата и пазара на труда. Определението за AGI или съзнание е без значение за решаването на проблема с кибератаките или заплахите за финансовите системи.
Доверието в държавните институции в момента е на ниско ниво, но алтернативата с липсата на контрол са неконтролирани бедствия, които в крайна сметка само ще разрушат социалния ред. Самият Гейтс открито признава собствените си несъвършенства и минали грешки и по-специално когато отговаря на обвиненията за връзките си с Джефри Епщайн: той призовава за оценка не на неговата личност или финансови интереси, а на логиката на самите аргументи и мащаба на технологичната заплаха.
Три технически начина за решаване на проблема с контролаПодравняването е технически синоним на проблема с контрола. Моделите вече демонстрират непредсказуемо поведение, базирано на пясъчник. Независимо от философските дефиниции, съществуват три специфични инженерни подхода за решаване на проблема с контрола:
Алтернатива на обучението с подсилване (RL): Коренна промяна във фундаменталната архитектура на обучението. Всичко, което попада извън оптимизационната функция на обучението с подсилване, може да бъде използвано от алгоритъма по непредсказуеми начини. Интерпретируемост (Interpretability): Създаване на инструменти „бяла кутия“, които ви позволяват точно да видите и разберете вътрешния ход на мисълта на модела, когато вземате решения. Символично ограничение (Symbolic constraint): Внедряване на твърд символичен защитен слой върху модела (подобно на концепцията за сигурност на Microsoft). Това са специфични правила, които физически забраняват на инструмента да превишава разпределените си ресурси, да изпраща неоторизирани съобщения или да поема контрол над други компютърни клъстери.Последният подход се счита за най-реалистичен в краткосрочен план, въпреки че дори той изисква огромни технически усилия и не отчита социалните последици.
Политика, центрове за данни и конфронтация между САЩ и КитайВ САЩ политиката, свързана с изкуствения интелект, се превръща в гореща тема на дебати преди изборите, като се обсъждат различни позиции – от „категорични“ до протести срещу изграждането на центрове за данни заради шума, потреблението на вода и покачващите се цени на електроенергията. Но Бил Гейтс подчертава, че центрове за данни ще бъдат построени така или иначе, а движението срещу тях не разглежда фундаменталните рискове на технологията.
В сравнение със Съединените щати, доминирани от частния сектор, Китай е показал много по-голяма готовност за стриктно регулиране на използването на изкуствен интелект в полза на обществото (например чрез забрана на криптовалутите, непрекъснатия хазарт или емоционалните връзки на децата с бот агентите). Заплахите за пазара на труда и киберсигурността обаче са еднакво актуални за гражданите и на двете страни.
Отворен код, регулации и ядрени аналогииСравнявайки ситуацията с ядрените оръжия, където технологията оставаше под строг контрол на държавите и правителствата, Гейтс смята за неприемлива появата на продукти с отворен код, от които всеки може да премахне защитните блокировки на обикновен компютър. Отговорността за продукта няма да работи тук – щетите от биологичните или кибератаки не могат да бъдат обезщетени по съдебен ред.
Примери за автономни агенти за потребителите, като например Muse на Алекс Уанг, демонстрират удобството на личните асистенти, но не бива да отварят пътя към дерегулация. Регулирането трябва да се прилага не на ниво микрочипове, а на ниво платформи за дистрибуция (като GitHub или Hugging Face). Строгостта на процедурите за контрол трябва да бъде сравнима с тази на FDA или разпоредбите за авиационна сигурност:
Моделите над определена мощност трябва да се използват само на сертифицирани платформи. Трябва да се забрани копирането на мощни модели на клиентските машини без системи за мониторинг на опитите за премахване на защитните бариери. Държавата е длъжна да въведе задължителни одити на моделите вместо настоящите доброволни покани. 20 години транзит: от колапс на пазара на труда до ера на изобилиеСледващите две десетилетия ще бъдат период на сериозни предизвикателства за интелектуалния и физическия труд. Способността на изкуствения интелект да извършва офис работата по-евтино, по-бързо и по-точно неизбежно ще елиминира недостига на висококвалифицирани умения. Това вече се наблюдава в математиката, където моделите публикуват научни статии и генерират по 770 доказателства на ден, принуждавайки общността да преосмисли ролята на хората.
Основните етапи на този преходен период включват:
Краткосрочен етап (2–5 години): Масова автоматизация на офис задачите (счетоводство, кол центрове, правен анализ), ускорен растеж на рисковете от кибератаки и манипулации. Средносрочен етап (5–10 години): Въвеждане на in silico биологични модели (моделиране на сложни биологични системи и странични ефекти на лекарства без изпитвания върху хора), масово производство на хуманоидни роботи за евтин физически труд (в диапазона от 2 до 8 години). Дългосрочен етап (до 20 години): Пълна автоматизация на основните стоки и услуги (жилищно строителство, хирургия, отглеждане на храни), изчезване на икономическите дефицити и преход към ера на изобилие.След преодоляване на бурния 20-годишен преходен период, човечеството ще се изправи пред въпроса за намиране на смисъла на живота в условия на липса на материален недостиг. Подобно на общността на амишите, обществото ще трябва съзнателно да определи границите на използването на технологиите. По време на диалога за Claude относно запазването на до 40% от работните места само за хората (грижи за деца, готвене, изкуство, спорт), Гейтс отбелязва, че изкуственото ограничаване на AI ще изисква сложни обществени компромиси.
Медицина на бъдещето и противодействие на младежкия нихилизъмВъпреки заплахите, изкуственият интелект предлага огромни възможности за здравеопазването. Gates Foundation инвестира ресурсите си в изкуствен интелект за диагностициране на туберкулоза, ХИВ, малария, подобряване на генетиката на културите и дешифриране на африканските езици. През следващите 19 години фондацията ще помогне за намаляване на детската смъртност в световен мащаб от 5 милиона до по-малко от 2,5 милиона годишно.
Скептицизмът и младежкият нихилизъм относно изкуствения интелект могат да бъдат преодолени само чрез осъзнаване на собствената им способност да влияят на процеса. Младите хора не бива да губят надежда заради изпреварването на човешкия интелект от алгоритмите. Преходният период ще изисква активното участие на ново поколение в избора на технологични граници, използването на изкуствения интелект в труднодостъпните райони и разработването на социални гаранции. Хората ще трябва да правят съзнателен избор как да насочат развитието на най-мощния инструмент в историята.