Uno studio condotto dall’Università della California, Berkeley, pubblicato sulla rivista Science, ha rilevato che gli algoritmi di valutazione del rischio utilizzati nel sistema di giustizia penale mostrano pregiudizi nei confronti della popolazione ispanica. Lo studio ha analizzato i dati di oltre 20 milioni di casi penali e ha scoperto che gli algoritmi avevano maggiori probabilità di prevedere che gli imputati ispanici avrebbero commesso crimini futuri rispetto agli imputati bianchi, anche quando avevano precedenti penali simili e altri fattori di rischio.

I risultati dello studio hanno sollevato preoccupazioni circa l'equità e l'accuratezza degli algoritmi di valutazione del rischio, che vengono sempre più utilizzati per prendere decisioni in merito alla scarcerazione preventiva, alla condanna e alla libertà condizionale. I critici sostengono che questi algoritmi possono perpetuare le disparità razziali ed etniche nel sistema di giustizia penale sovrastimando sistematicamente il rischio di recidiva per determinati gruppi di persone.

In risposta a queste preoccupazioni, alcune giurisdizioni hanno iniziato ad adottare misure per affrontare i pregiudizi algoritmici. Ad esempio, la California ha recentemente approvato una legge che richiede che gli algoritmi di valutazione del rischio siano controllati per individuare eventuali pregiudizi e che vieta l’uso di algoritmi che discriminano in base alla razza o all’etnia. Altre giurisdizioni stanno prendendo in considerazione misure simili per garantire che gli algoritmi di valutazione del rischio siano utilizzati in modo giusto ed equo.

I risultati dello studio ricordano i potenziali pericoli derivanti dall’utilizzo di algoritmi per prendere decisioni sulla vita delle persone. È importante considerare attentamente il potenziale di parzialità e discriminazione durante lo sviluppo e l’utilizzo di questi algoritmi e adottare misure per mitigare questi rischi.