Algoritmus je testovaný v San Franciscu nastaviť Pre-Trial Bail

Systém trestného súdnictva je uprostred algoritmickej zmeny. Okolo 30 jurisdikcií - vrátane celých štátov Arizona, Kentucky a New Jersey, ako aj miest ako San Francisco a Chicago - testovali algoritmus, ktorý stanovuje náklady na kauciu na základe údajov z celoštátnych registrov trestov. Nie všetci sudcovia sú nevyhnutne pripravení prijať digitálne odporúčania do srdca.

Algoritmus bol vytvorený Laura a John Arnold Foundation so sídlom v Houstone. Cieľom algoritmu je zaujať predsudky z nastavenia kaucie pomocou údajov z 1,5 milióna predprípadových prípadov. V minulosti však algoritmy niesli rovnaké predsudky ľudí, ktorí ich robia.

Do algoritmu vstupuje deväť faktorov na základe webovej stránky nadácie:

• Či je aktuálny trestný čin násilný
• Či má osoba v čase zatknutia nevybavený poplatok

• Či má osoba predchádzajúce odsúdenie za priestupok
• Či má osoba predchádzajúce odsúdenie z trestného činu
• Či má osoba predchádzajúce odsúdenie za násilný trestný čin
• Vek osoby v čase zatknutia
• Či sa osoba v posledných dvoch rokoch nedostavila na predškolské vypočutie
• Či sa osoba nedostavila na predškolské vypočutie pred viac ako dvoma rokmi
• Či už bola osoba predtým odsúdená na väzenie.

Algoritmus nezohľadňuje rasu, pohlavie, príjem, vzdelanie, zamestnanie alebo okolie. To, podľa nadácie, robí PSA neutrálnym.

Napriek tomu sudcovia v San Franciscu neboli dôsledne dodržiavaní odporúčaní San Francisco Chronicle správy.

San Francisco presťahoval použiť algoritmus potom, čo mesto bolo žalované národnou občianskou skupinou, ktorá tvrdila, exorbitant na kauciu ublížil chudobným viac ako bohatí. Bohatí ľudia, ktorí spáchali menšie trestné činy, si kúpili cestu von z väzenia, zatiaľ čo chudobní ľudia, ktorí si nemohli dovoliť nadmerné sumy na kauciu, zostali v cele, kým nebolo možné naplánovať súdny proces.

PSA mala vyrovnať podmienky tým, že sa bude zaoberať skôr údajmi než okamžitým zločinom. Algoritmus používa historické údaje na posúdenie pravdepodobnosti, že osoba spácha iný trestný čin, alebo sa bude vyhýbať súdnemu procesu, ak bude obvinená z kaucie, Menšinová správa štýl. Ak je pravdepodobnosť vysoká, kaucia je vyššia a naopak.

Podobný algoritmus, ktorý vytvoril Northpointe, sa použil na vedenie dátumov vydania väzňa. ProPublica zverejnili výsledky vyšetrovania v máji, v ktorom sa zistilo, že „hodnotenie rizika“, ktoré poskytuje Northpointeov algoritmus, neprimerane predpovedalo, že černoši po spáchaní trestného činu častejšie spáchali iný trestný čin ako bieli. Presných bolo len 20 percent predpovedí spoločnosti Northpointe.

Pokročilé technológie mapovania a veľké údaje na druhej strane pomáhajú aj pri presadzovaní práva a pri hľadaní policajných kriminálnych miest.

Algoritmus nadácie má za cieľ vyhnúť sa podobnej zaujatosti odstránením demografických ukazovateľov. Nezáleží na tom, či to naozaj funguje, až kým sa sudcovia skutočne nezačnú spoliehať na algoritmy nad precedensom a intuíciou.