В проекта взели 600 000 участника от целия свят посредством селфита. Изображенията били подложени на строгата преценка на трима съдии в лицето на три алгоритъма, които оценявали достойнствата на участниците по ред показатели, като симетрия на лицето, наличието или отсъствието на бръчици, колко млади или стари изглеждат за възрастта си и др.
Нещо странно обаче имало в крайните резултати. От 44-мата финалисти, които били определени за най-красиви мъже и жени, едва шестима били от азиатски произход и само един от участниците с по-тъмен цвят на кожата. Говорим за 600 000 участника от цял свят. Какво се объркало?
Технологията, която стои в основата на възможностите на машините да „разсъждават“ се нарича машинно обучение, като главно място тук заема т.нар. „дълбочинно обучение“ (deep learning). Машината бива захранвана с данни, тези данни идват със зададени допълнителни характеристики, които да кажат на машината какво „вижда“. Веднъж тренирани и обучени, алгоритмите са готови за интеграция в AI система. Изглежда обаче базата, с която са билитренирани алгоритмите за Beuty.ai е била съставена основно от лица на хора със светъл цвят на кожата.
Самите автори на проекта са озадачени. „Изглежда, че цветът има значение за компютърната визия и за някои групи от популацията, информационните масиви не разполагат с адекватен брой проби, които да тренират дълбочинните невронни мрежи“, смята Алекс Жаворонков, главен научен експерт в проекта. Друг проблем тук бил, че 75% от участниците в проекта били европейци и хора със светъл цвят на кожата, коментира той за медията. 40 000 от участниците били от Индия и 9000 от африканския континент.
Изданието признава, че самата фотография дълги години използва технология, която предава по-добре светлата кожа за сметка на хората с по-тъмна кожа – нещо, което вече се променя. Motherboard напомня, че това се корени в ранните дни на фотографията.
Отделно от това, алгоритмите пренебрегвали фотографии на хора с тъмен цвят на кожата, ако фонът не бил толкова светъл.
„Дълбочинното обучение е сходно и в друго отношение: разработчиците споделят помежду си вече „тренирани“ бази от данни и самостоятелно изработени структури, често без да правят промени по тях“, обяснява Джордан Пиърсън от медията. „Това означава, че противоречията биват репродуцирани в цялата система, дори и в случаите, в които учените имат най-добри намерения. Единственият начин за промяна тук е промяна на самата система – в този случай, базовите мрежи, които биват обучавани“.
Грешка на интелигентна система може да стои и в основата на инцидент, но този път с трагичен край. Става дума за мъж, който тази година загина в Tesla, докато колата е била в режим на „автопилот“. Компанията беше предупредила, че характеристиката е в тестов етап на разработка и тези, които я използват трябва да държат ръцете си на кормилото и погледа на пътя. Дали Джошуа Браун е спазил тези правила не е известно, но от компанията признаха, че дял в трагичната случка може да е имала и смарт системата, която не е регистрирала коректно напречно задаващото се тракторно ремарке и е объркала белия му цвят, който се е сливал с този на небето.