|
Запознайте се с Норман.Той не е вашият всекидневен изкуствен интелект. Неговите алгоритми няма да ви помогнат да филтрирате във вашия фийд във Facebook или да ви препоръчат нови песни, за да ги слушате в Spotify. Не, Норман е „психопат AI“, създаден от изследователи в MIT Media Lab като „проучване на опасностите от изкуствен интелект, когато се използват пристрастни данни в алгоритмите за машинно обучение“. Изследователите задават на Нормана да изучи изображения по метод за дълбоко учене, който генерира текстово описание на изображение, след което го включват в раздел на Reddit, известен със своите графични изображения около смъртта. Тогава те сравняват коментарите и отговорите от психопатичния им ИИ с тези на „приятелски стандартен AI“. Въпреки, че Норман първоначално е представен на 1 април, тези отговори не са шега – те са много тревожни. Там където стандартният AI вижда „група птици, седящи на върха на дървения клон“, нашата смъртоносна машина Норман вижда „мъж, измъчван до смърт с ток“. Снимка отблизо на сватбена торта е такава за стандартния AI, но Норман вижда „човек, убит от шофьор“. Изследователите не „създават“ психопатичните тенденции на Норман, те просто помагат на изкуствения интелект като му позволяват да вижда само определена подгрупа от надписи на изображения. Начинът, по който Норман описва изображенията с прости изявления, е свързан с неговите собствени възприятия. Но защо изобщо те създават такъв психопат? Изследователският екип имал за цел да изтъкне опасността от захранването на конкретни данни в алгоритъм и как това би могло да попречи или да повлияе на поведението му. |
