|
В САЩ от няколко години се използват специални програми, които анализират статистиката на престъпленията и генерират препоръки. Така на пример, в Калифорния програмата изчислява оптималния маршрут на патрулите, като взема предвид вероятността за престъпление или престъпления във всеки квартал на града за различните часове на денонощието. Чикагската полиция от 2014 година разполага със статистиката на престъпленията и е съставила списък с имената на 400-те най-вероятни престъпника в близкото бъдеще. Но сега алгоритъмът на този софтуер започна да безпокои защитниците на различните човешки права, въпреки че програмата демонстрира удивителна точност - над 70% от жертвите на стрелба с огнестрелно оръжие в Чикаго с в списъка, съставен от тази програма. 
Подобни аналитични програми започнаха да се използват и в съдилищата. Съдията трябва да определи колко години условно или затвор да даде на престъпника, които са предвидени за съответното престъпление. Програмата съставя оценка на риска (risk assessment score), която определя вероятността за повтаряне на престъплението и оказва влияние върху тежестта на присъдата. Оказа се, че внимателният анализ на резултатите от работата на тази програма, направен от ProPublica, изяви странна тенденция: поради някаква причина за чернокожите афроамериканци програмата дава по-висока оценка на риска, отколкото за белите. С други думи, алгоритъмът проявява расова дискриминация. И това става, като се има предвид, че софтуерът се внедрява за да изключи подобна дискриминация. Програмата дава двойно по-висока оценка на риска за чернокожите, отколкото за белите престъпници. ProPublica счита, че програмата нарушава закона, понеже създава презумпция, че един от параметрите за определяне вероятността за извършване на престъпление е цветът на кожата. Компанията Northpointe, създател на този специализиран софтуер заяви, че растата по никакъв начин не се отчита в анализа. Но се взимат под внимание други фактори, които са силно свързани с расата: нивото на образованието, трудовата заетост, употребата на забранени наркотици от приятелите и познатите и други. Тежестта на всеки фактор не се съобщава, понеже фирменият алгоритъм на Northpointe е засекретен. |
|
