Скайнет няма да има: Google DeepMind работи върху "голям червен бутон" за изключване на ИИ

Към днешен ден изкуственият интелект е сравнително слаб. Компютърните системи могат да решават сложни задачи като превръщането на човешкия глас в текст, да разпознават изображения. Силният ИИ е компютърна система, която е в състояние да разбере информацията, с която работи. Засега няма ИИ от втория вид, но именно той е предмет на ожесточени дискусии на учени и бизнеса. На въпроса, "Как да спрем силния ИИ, ако внезапно започне да вреди на хората?" се занимава екип от учени от Оксфордския университет и лабораторията DeepMind.

"Ако мощен ИИ работи в реално време под контрола на човек-оператор, то няма как да минем без образно казано голям червен бутон, с който да се спрат някои опасни действия".

Специалистите подчертават, че е на път да се създаде не само самообучаваща се система, но и система, която ще е толкова съвършена, че може самостоятелно да се усъвършенства и да се учи от грешките си. Това ще даде възможност на първата версия на този ИИ да създаде втора, интелектуално по-мощна, а след това ще последват други. В определен момент ще се стигне до интелектуален взрив, при който от сравнително ниско ниво ще се стигне до супер-интелект.

Екипът учени счита, че вече има алгоритми за ИИ в електронните облаци, които не могат лесно да бъдат спрени. Те предлагат внедряване на възможност за бърза намеса в работата на подобен ИИ и задължителното му изключване за по 1 час в денонощието. Специалистите считат, че по този начин ще се избегне потенциалната съпротива на мощния ИИ срещу изключване от страна на хората.