In un articolo pubblicato da Scienze comportamentali e diritto rivista, esperti dell'Università del Surrey esaminano in modo critico il crescente utilizzo di strumenti algoritmici di valutazione del rischio, che agiscono come una forma di perizia scientifica in un numero crescente di casi penali.

La revisione sostiene che a causa di diversi problemi, come i pregiudizi degli sviluppatori e la debole evidenza statistica delle prestazioni predittive dell'IA, i giudici dovrebbero fungere da guardiani e esaminare attentamente se tali strumenti debbano essere utilizzati.

Il documento delinea tre passaggi che i giudici dovrebbero considerare:

• Fitness, questo per valutare se l'uso dello strumento di intelligenza artificiale sia pertinente al caso
• Precisione, questo per capire se lo strumento può veramente distinguere tra recidivi e non recidivi
• Affidabilità, ciò richiederebbe ai giudici di esaminare l'affidabilità dei risultati dello strumento nella pratica. Questa fase non sarebbe necessaria se il giudice trovasse che l'IA manca in una delle prime due fasi.

Dott.ssa Melissa Hamilton, autore del documento e Reader in Law and Criminal Justice presso la School of Law dell'Università del Surrey, ha dichiarato:"Questi strumenti di intelligenza artificiale emergenti hanno il potenziale per offrire vantaggi ai giudici nelle sentenze, ma occorre prestare molta attenzione alla loro affidabilità. Se usati con noncuranza, questi strumenti renderanno un disservizio agli imputati sul lato ricevente".