Хората остават по-добрите съдии от изкуствения интелект

Когато филмът „Специален доклад“ (Minority Report) излезе преди 16 години, това си беше просто един научно-фантастичен филм с Том Круз. Кой ще предположи, че през 2018 това ще е реалност?! Но точно така се оказва. Или не точно, защото алгоритмите, така хвалени като панацея за проблемите на човечеството или последната голяма грешка, която човек ще направи, въобще не са толкова перфектни. Това става ясно, след като широко използван метод от американски съдии за показване на вероятността осъден да извърши отново престъпление се оказал не по-ефективен от предположението на случаен човек.

Предиктивният анализ може да се използва и с успех за целите на бизнеса и числата, но човек не е логично същество и използването на подобни методи за определяне на неговото поведение си звучи най-малкото смущаващо.

COMPAS е сбор от алгоритми, използвани от известно време от някои американски съдилища, за да определят степента на вероятността обвинен в престъпление да извърши второ такова, което на свой ред определя продължителността на присъдата. Системата бива подложена на критика още с нейното пускане в реалния свят и материал в WIRED,подкрепя тези критики. А когато на карта е заложена свободата и съдбата на човек, нещата излизат извън контрол. Джулия Дресел и Хани Фарид от колежа в Дартмут твърдят в журнала Science Advances, че алгоритъма не е по-успешен в преценката си от кой да е човек. „По същество няма разлика между хората, отговарящи на онлайн анкета и този комерсиален софтуер, който се използва в съда. И щом този софтуер е толкова коректен в предвижданията си, колкото и необучен човек, съдът трябва да преосмисли още веднъж доколко да му се довери“, споделя Дресел. Тя заявява, че почти липсват доказателства алгоритмите да са по-успешни в правенето на прогнози, отколкото хората. Освен това, Дресел разкрива, че индустрията занимаваща се с предиктивен криминален анализ е доста потайна, когато се отнася до резултати.

Що се отнася до изследването им, то разликите между COMPAS и оналйн анкетата (проведена посредством Amazon Mechanical Turk), която провели със случайни хора е тази, че COMPAS използва 137 показателя за преценка на осъдения, докато въпросника съдържал едва седем. Всичките хиляда престъпника били реално съществуващи личности от общинския затвор Броуди във Флорида. Когато анкетираните върнали попълнените анкети, техният резултат бил 67% успеваемост, с два процента по-добре от системата.

От Equivant, компанията, разработила COMPAS, отговарят на доклада по йезуитски. „Вместо да е критика на оценъчната способност на COMPAS, изследването просто е поредното потвърждение на набор от независими изследвания постига добри резултати в предвиждането и сходствата“, обясняват от компанията.

Изследователите обаче не са доволни от отговора на Equivant. И няма как да е иначе, защото съвпадането на резултатите специализираната система с тези на обикновени хора, всъщност не подкрепя твърдението, че употребата на COMPAS в съда е оправдана. Освен това, самите обвиняеми не знаят, че продължителността на присъдата им бива преценявана от алгоритъм. Миналата година, обвиняем в САЩ реши да оспори дадената му от COMPAS продължителност на присъдата. Той се позовава на американската конституция и на това, че системата не е официално одобрена технология за валидиране на риска. Искането му за преразглеждане на случая му е било отхвърлено.