Spoločný počítačový program predpovedá recidivizmus ako chudobných ľudí

Rovnako ako profesionálny kuchár alebo srdcový chirurg, algoritmus strojového učenia je len taký dobrý ako výcvik, ktorý dostáva. A keďže algoritmy čoraz viac berú vládu a prijímajú rozhodnutia pre ľudí, zisťujeme, že mnohí z nich nedostali najlepšie vzdelanie, pretože napodobňujú ľudské predsudky založené na rase a pohlaví a dokonca vytvárajú nové problémy.

Z týchto dôvodov sa to týka najmä toho, že viaceré štáty, vrátane Kalifornie, New Yorku a Wisconsinu, používajú algoritmy na predpovedanie, ktorí ľudia budú páchať trestné činy znova po tom, čo boli uväznení. Ešte horšie je, že to nefunguje.

V novinách publikovaných v stredu v časopise Pokroky v oblasti vedy, pár počítačových vedcov na Dartmouth College zistil, že široko používaný počítačový program na predpovedanie recidívy nie je presnejší ako úplne netrénovaný civilista. Tento program, nazývaný profilovanie korekčného páchateľa pre alternatívne sankcie, analyzuje 137 rôznych faktorov, aby sa určilo, aká pravdepodobná je skutočnosť, že osoba bude po prepustení spáchať ďalší trestný čin. COMPAS zvažuje faktory, ako je užívanie látok, sociálna izolácia a ďalšie prvky, ktoré kriminológovia teoretizujú, môže viesť k recidíve, hodnoteniu ľudí na vysoké, stredné alebo nízke riziko.

A určite, hodnotenie rizika znie skvele. Prečo nemáme viac údajov, ktoré by pomohli súdom určiť, kto je väčšie riziko? Ale čo zistili Dartmouthovi počítačoví vedci Julia Dressel a Hany Faridová, zistili, že netrénovaní jedinci správne posúdili riziko recidívy s približne rovnakou presnosťou ako COMPAS, čo naznačuje, že predpokladaná sila algoritmu v skutočnosti nie je.

V jednej štúdii, ktorá zahŕňala len zlomok informácií použitých spoločnosťou COMPAS (sedem faktorov namiesto 137 a okrem rasy), skupina dobrovoľníkov na internete na internete, s pravdepodobnosťou žiadne školenie v oblasti posudzovania rizika trestných činov, hodnotené kazuistiky. Správne odhadli recidívu osoby s presnosťou 67 percent v porovnaní s 65 percentnou presnosťou spoločnosti COMPAS.

Urobte si chvíľku, aby ste sa nechali potopiť. Netrénovaní ľudia na webe boli o niečo lepší pri predpovedaní, či sa človek vráti do väzenia ako nástroj, ktorý je doslova navrhnutý tak, aby predpovedal, či sa osoba vráti do väzenia, A to sa zhoršuje. Keď pridáte rasu obžalovaného, ​​falošne pozitívne a falošne negatívne hodnoty dobrovoľníka boli len o niekoľko percentuálnych bodov spoločnosti COMPAS. Takže COMPAS nie je až taký veľký pri predpovedaní recidívy, je rovnako náchylný k rasovej zaujatosti ako ľudia. Toľko pre chladnú logiku počítačov.

Výskumníci potom vytvorili lineárny model, ktorý zodpovedal predikčnej miere spoločnosti COMPAS len s dvomi faktormi: vekom a počtom predchádzajúcich odsúdení. Je jasné, že táto predpoveď by bola tiež nespravodlivá, ale ukazuje, ako je chybná spoločnosť COMPAS.

A aj keď je tento výskum nový, veľké stánky s nimi nie sú. Pri vyšetrovaní v roku 2016 ProPublica reportéri zistili, že spoločnosť COMPAS je nielen nespoľahlivá, ale je systematicky systematicky zaujatá voči Američanom Afričana, pričom stále hodnotí čiernych ľudí ako vyššie riziko ako bieli, ktorí spáchali závažnejšie trestné činy. Dúfajme, že tento nový výskum pomôže pripraviť pôdu pre procesy posudzovania rizík v systéme trestného súdnictva.

Skutočnosť, že COMPAS je nanajvýš zbytočná a najhoršia v najhoršom prípade, naznačuje, že hodnotenie rizík na základe počítačov by mohlo prehĺbiť nespravodlivosť, ktorú by mal systém spravodlivosti riešiť.Vzhľadom k tomu, že výsledky hodnotenia rizika môžu byť aplikované v akomkoľvek kroku procesu trestného súdnictva, vrátane stanovenia väzobného vzťahu, určovania, či sú udelené čestné slovo, av niektorých štátoch, dokonca aj pri určovaní trestu osoby, tento výskum naznačuje, že je to potrebné. opätovne preskúmať využívanie programov COMPAS a iných programov.