Иновация: изстрел от пистолет след подадена гласова команда

Ентусиастът Александър Ребен публикува видео, което повдигна неотложни въпроси относно изкуствения интелект.

За добро или лошо, Google Assistant може да направи всичко. От баналното включване на осветлението и напомняне за предстоящи събития, до съвършено точното имитиране на човешкия разговор. Този изкуствен интелект се оказа толкова добър, че дори плаши.

Но новата (неофициална) способност на Google Assistant е направо зловеща. Популярният американски ентусиаст в областта на роботиката Александър Ребен (Alexander Reben) накара компютърния асистент да стреля с пистолет. За щастие, жертвата е ябълка, а не човешко същество. А спокойно би могъл да бъде и човек.

Клипът е наречен просто „Google Shoots“ и показва целия процес. Ребен задава следната команда: „OK Google, зареди пистолета„. Секунда по-късно пистолетът е готов и следва изстрел. Всичко в тази сцена е направено от подръчни материали, а пистолетът е театрален и е взет от студиото на Ребен. Експериментът повдигна редица важни въпроси относно границите за използването на изкуствения интелект.

Самият Ребен счита, че дискусията около създаването и използването на подобно устройство са по-важни от неговата реална физическа същност. В този проект той е избрал да използва Google Assistant, но без проблем би могъл да се използва Amazon Echo или друг гласови асистент на друга компания.

Експериментът на Ребен е много показателен. В случая, именно той е отговорен за случилото се, понеже е дал гласовата команда за изстрела. Но в един свят, в който машинното обучение е довело до появата на изкуствен интелект, който е достатъчно умен, за да се съобразява с нуждите на потребителите и да се грижи за техния комфорт, съвсем не е трудно да си представим, че съвсем скоро ще дойде денят, в който дигиталните помощници могат да убият човека, който е разстроил или ядосал потребителя. И кой тогава ще е отговорен за неговата смърт?

Може би трябва да блокираме достъпа на изкуствения интелект до опасните устройства. Но те вече са в автомобилите ни, при военните и на много други места, за които не сме се и замисляли. Можем да искаме от компаниите да гарантират, че техните технологии и устройства няма да нанесат вреда. Но е невъзможно да предвидим всеки възможен начин и всеки един случай, в който изкуственият интелект може да направи нещо лошо.

„Това е едно послание, което показва какви могат да бъдат непредвидените последствия от използването на новите технологии. Очевидно е, че е съвсем безсмислено да разглеждаме поотделно всеки един случай за злоупотреба с тях“ – каза Ребен.

Google едва ли предполагал, че неговият изкуствен интелект ще помогне в стрелбата с пистолет. Ребен ни кара да си представим, какво би могло да се случи, ако злонамерени програмисти създадат изкуствен интелект, който се използва за престъпни цели. Наистина са необходими по-широки дискусии и по-дълбоки размисли, за да не позволим на интелигентните машини да ни избият.