Учени учат роботи да отказват команди

Да обърне внимание на робот, който произвежда автомобили на поточната линия. Той през цялото време следва инструкциите, които са му дадени, но ако тези команди са заложени и/или променени от човек, който е тръгнал по пътя на злото, машината трябва да бъде достатъчно умна, за да спре процеса на производство. ИИ трябва да знае, кога да използва програмиране по подразбиране, за да има по-малка опасност за хората при възникнал риск. Екипът на Human-Robot Interaction Lab към университета в Тафтс се опитва да въведе подобна функционалност в бъдещите системи с изкуствен интелект.

Работата на екипа се базира на условията и разсъжденията, през които преминава човешкия мозък. Преди да извърши дадено действие, човекът се замисля как точно да направи това, може ли физически да извърши това, задължава ли го неговото социално положение да извърши точно това сега и дали не се нарушава някой основен принцип.

Ако роботите получат възможност да си задават тези въпроси, то те ще бъдат в състояние да се адаптират към най-неочаквани обстоятелства.

Роботът трябва да умее да решава, дали човекът, който дава инструкциите, има право на това, и дали те трябва да се изпълняват, ако самите действия са опасни за хората и за съответния робот.

ИИ на роботизираните автомобили също се сблъскват с подобни дилеми: ако автономен автомобил попадне в извънредна ситуация и не може да спре, дали да се блъсне в в тълпа пешеходци или да се удари и да убие само своя собственик.

Проучванията от този вид са вече документирани и доказват, че роботите, които не се подчиняват на хората могат да бъдат потенциално опасни, но ако бъдат направени сляпо да се подчиняват на всеки и всичко, то рискът е значително по-голям