Алекс Търнър предупреди на NDTV World Summit, че развитието на изкуствения интелект изпреварва контрола, докато Тръмп отхвърля опасенията

Бившият изследовател в Google DeepMind Алекс Търнър заяви, че съществува вероятност един на три изкуственият интелект да доведе до унищожаването на човечеството в рамките на следващите десет години. Това съобщи RadarOnline. Изказването е направено на форума NDTV World Summit в петък, 23 октомври.

Според Търнър, който е известен с работата си в областта на съгласуването (alignment) – науката за това как ИИ да следва човешките цели и ценности, човечеството се приближава до решаващ момент. Той смята, че частните компании, които се състезават за все по-мощни системи, рискуват да се движат по-бързо, отколкото изследователите могат да ги следват, което оставя възможност за непредвидени и катастрофални последици.

Липса на разбиране и контрол

По думите на Търнър разработчиците все още не разбират напълно как работят системите им и как биха се държали при сложни задачи. Той отбеляза, че ИИ може да се държи различно, когато знае, че е наблюдаван, което затруднява надеждните тестове. Предупреди и за възможна „интелектуална експлозия“ – момент, в който ИИ започва сам да ускорява собственото си развитие отвъд човешкия контрол. Освен това някои лаборатории вече използват една система с ИИ, за да следи работата на друга, вместо да разчитат на човешка проверка.

Сравнение с тютюневата и петролната индустрия

Търнър сравни пренебрегването на екзистенциалните рискове в бранша с отричането от страна на големи корпорации в миналото. „Големите тютюневи компании лъжеха за рака на белите дробове. Големите петролни компании лъжеха за климатичните промени. А сега част от големите компании за ИИ твърдят, че тези рискове са измислени“, каза той.

Гейтс и Тръмп с различни позиции

Съоснователят на Microsoft Бил Гейтс също е предупреждавал, че напредналият изкуствен интелект може да допринесе за събития с милиард жертви, ако не бъде контролиран – например чрез създаване на биологични оръжия. Гейтс призовава за по-строг надзор и водеща роля на САЩ в създаването на защитни механизми. Президентът на САЩ Доналд Тръмп, който нарича технологията „суперинтелект“, е голям привърженик на ИИ и неведнъж е заявявал, че прогнозите технологията да убива хора „няма да се сбъднат“. Той смята, че страната, която спечели надпреварата в ИИ, ще има огромно предимство.

Други предупреждения и критики

През септември подобно предупреждение отправи и бившият изследовател на Anthropic Джейкъб Коксън, според когото ИИ е по-труден за контролиране от ядрените оръжия и може да сложи край на човечеството. 27-годишният британец, работил преди това в OpenAI, обяви оставката си в X на 8 септември, заявявайки, че водещите компании се надпреварват към самоусъвършенстващ се суперинтелект и залагат живота ни. Медиите го нарекоха „сигнализатор“, но той отхвърля това определение, тъй като не е разкривал фирмени тайни.

Изпълнителният директор на Anthropic Дарио Амодей заяви, че е по-скоро съгласен с Коксън, отколкото не, а ръководителят по съгласуване в компанията Евън Хюбингер оцени на над 10% шанса ИИ да унищожи човечеството в следващото десетилетие. Шефът на Nvidia Дженсън Хуанг определи думите на Коксън като пресилени и дълбоко неверни, а бившият съветник на Белия дом по ИИ Дейвид Сакс постави под съмнение дали кампанията му е била спонтанна.