di Iacopo Barison

 

Nell'agosto del 2017, in un'aula di tribunale di Cleveland, in Ohio, il diciottenne Hercules Shepherd Jr era in attesa di giudizio dopo essere stato arrestato per il possesso di una piccola quantità di cocaina. Il giudice, però, quel giorno aveva un nuovo e insolito strumento per guidare la sua decisione: un software di valutazione del rischio che analizzava i casi e tentava di prevedere i futuri comportamenti dell’imputato. Shepherd era stato indicato proprio da quest’ultimo come un imputato a basso rischio, quindi idoneo al rilascio preliminare. Il giorno successivo era di nuovo fra i banchi di scuola.

Oggi, a un anno di distanza, un numero sempre maggiore di aule di giustizia sparse per il mondo ricorre a sistemi automatizzati, ma non tutti gli algoritmi producono dei risultati equi. Un'indagine della rivista di settore ProPublica , datata 2016, ha rilevato che un popolare strumento di valutazione del rischio (chiamato “Compas”) aveva un’alta probabilità di classificare erroneamente gli imputati neri come futuri criminali, perlomeno rispetto agli imputati bianchi. Le carenze dei giudici automatizzati, quindi, destano preoccupazione, ma le loro controparti umane possono avere difetti ancora più gravi. Il professor Elliott Ash, docente di economia presso l'Università di Warwick, ritiene che i giudici “in carne e ossa” possano essere altrettanto prevenuti e molto più impulsivi. Lo studio di Ash, ad esempio, ha dimostrato che i giudici tendono a essere più indulgenti all'inizio della giornata e immediatamente dopo la pausa pranzo, influenzati quindi dall’orario delle sentenze.

A ogni modo, la metodologia dietro alla valutazione “automatica” è abbastanza semplice. Gli algoritmi si basano sulle leggi in vigore e sulle decisioni prese nei casi precedenti, individuando i fattori che, almeno in teoria, prevedono la colpevolezza o l’innocenza degli imputati. I casi vengono dunque convertiti in dati leggibili dal software e poi analizzati dal sistema per prendere una decisione. “Seppur quest’ultime non siano ancora precise al 100%”, afferma Ash, “quantomeno non dipendono dal fatto che un giudice abbia pranzato o meno”. D’ora in avanti, quindi, la legge potrebbe diiventare realmente uguale per tutti. Non c’è dubbio, sarebbe un traguardo storico!