Si prevede che il Queensland Police Service (QPS) avvierà un processo utilizzando l'intelligenza artificiale (AI) per determinare il rischio futuro rappresentato dai noti autori di violenza domestica.

Autori identificati come "ad alto rischio", in base a precedenti chiamate a un indirizzo, attività criminali passate e altri dati detenuti dalla polizia:saranno visitati a casa dalla polizia prima che la violenza domestica si aggravi, e prima che sia stato commesso alcun reato.

È necessario trovare modi migliori per migliorare la sicurezza delle donne vittime di violenza domestica. Però, l'utilizzo della tecnologia AI in questo contesto può avere conseguenze indesiderate e il piano proposto solleva seri interrogativi sul ruolo della polizia nella prevenzione degli incidenti di violenza domestica.

L'approccio si basa su un algoritmo che è stato sviluppato da dati amministrativi QPS esistenti (QPRIME). Tutti gli algoritmi statistici devono valutare il rischio sulla base dei dati disponibili, il che a sua volta significa che sono validi solo quanto i dati che li sostengono.

Gli esperti che criticano l'uso di strumenti di valutazione del rischio basati sui dati nelle attività di polizia sottolineano la mancanza di trasparenza nei tipi specifici di dati analizzati, così come il modo in cui vengono attuate le previsioni basate su questi dati.

A causa di come opera la polizia, i dati chiave acquisiti in modo più coerente sono informazioni su situazioni passate a cui la polizia è stata chiamata, e dati sulla storia criminale.

L'utilizzo di queste informazioni per addestrare un algoritmo di intelligenza artificiale potrebbe rafforzare i pregiudizi esistenti nel sistema di giustizia penale. Potrebbe creare un ciclo di feedback infinito tra la polizia e quei membri del pubblico che hanno più contatti con la polizia.

In Australia, sono aborigeni e abitanti delle isole dello Stretto di Torres. Non è difficile immaginare che sotto questo nuovo regime gli aborigeni e gli abitanti delle isole dello Stretto di Torres saranno più visitati dalla polizia.

Il rappresentante del QPS Ben Martain ha affermato che la polizia non sarà in grado di accusare qualcuno che bussa alla porta per un futuro sospetto reato.

Ha anche detto per il pilota, gli attributi di etnia e posizione geografica sono stati rimossi prima di addestrare il modello di intelligenza artificiale. Ma nonostante questo, sembra probabile che gli aborigeni e gli abitanti delle isole dello Stretto di Torres continueranno a essere presi di mira in modo sproporzionato, poiché sono sovrarappresentati in tutti i tipi di contatto con la polizia.

Introdurre il rischio

L'obiettivo di tali strategie di polizia basate sull'intelligenza artificiale è prevenire o ridurre la criminalità, attraverso una valutazione del rischio di reati futuri. In teoria, ciò significa che la polizia interverrebbe in anticipo per impedire che si verifichi un crimine.

Però, con questo approccio ci sono rischi che la polizia possa creare crimine. Un bussare alla porta della polizia non richiesto sarebbe sgradito nella maggior parte delle famiglie, per non parlare di quelle in cui la polizia ha precedentemente partecipato a perquisizioni o arresti.

In questo programma "preventivo", gli autori e le vittime con cui vivono possono essere nervosi, agitato o addirittura arrabbiato per l'intrusione della polizia nella loro casa senza una ragione apparente.

Una persona visitata potrebbe usare un linguaggio offensivo o rifiutarsi di fornire il proprio nome. Non sarebbe sorprendente se questo portasse a delle accuse.

Tali accuse potrebbero portare la persona visitata a diventare ancora più nervosa, agitato o arrabbiato, e poi potrebbero scoprire di essere accusati di aggressione e resistenza alla polizia. Questo è popolarmente conosciuto come la "trifecta", in cui una persona che non ha altrimenti offeso è in definitiva accusata di linguaggio offensivo, resistenza all'arresto e aggressione alla polizia.

I poteri standard nella cassetta degli attrezzi della polizia sono di arrestare e caricare. Con il piano proposto da QPS, c'è un evidente rischio di allargare la rete di criminalizzazione per entrambi i colpevoli, così come le vittime che possono essere erroneamente identificate come autori. Ad esempio, a volte le vittime che hanno usato la violenza per legittima difesa sono state arrestate al posto dell'autore.

Portare ulteriori danni alle vittime

Anche il ruolo della vittima in un tale programma è preoccupante. Qualsiasi programma che approfondisca la sorveglianza degli autori approfondisce anche la sorveglianza delle vittime.

Le vittime non sempre vogliono che la polizia intervenga nelle loro vite. In alcuni casi, questa forma di polizia proattiva potrebbe sembrare un'estensione del controllo, piuttosto che aiutare. Cosa succede quando la polizia visita e scopre che un perpetratore e una vittima ad alto rischio vivono di nuovo insieme?

Le vittime possono temere che le autorità per la protezione dell'infanzia vengano coinvolte e si sentano obbligate a nascondere il fatto che sono ancora con l'autore. E una volta che una vittima è stata costretta a mentire, potrebbero essere riluttanti a chiamare la polizia la prossima volta che hanno bisogno dell'intervento della polizia.

In alcuni casi, l'autore o la vittima possono decidere di non seguire i consigli di sicurezza degli agenti di polizia che visitano. Non è chiaro cosa potrebbe fare la polizia in una situazione in cui chiedesse a un autore di andarsene, o cercare di portare in salvo una vittima, ma si rifiutano.

La missione di qualsiasi intervento contro la violenza domestica dovrebbe essere quella di restituire il potere alle vittime. Ma sappiamo che gli interventi non aiutano tutte le donne (o gli uomini) allo stesso modo. disuguaglianze strutturali, compresa razza e classe, significa che gli interventi sono vissuti in modo diverso da persone diverse.

Una vittima avrà voce in capitolo sul fatto che la polizia si impegni in un'attività di polizia proattiva nei confronti del suo aggressore? Dovrebbero avere voce in capitolo?

Ci sono opzioni più sicure?

Nell'ambito della valutazione del rischio, molti esperti sostengono che le donne spesso (anche se non sempre) hanno un forte senso di quando sono ad alto rischio.

Le visite di contatto ordinate dal tribunale familiare possono essere uno di quei momenti ad alto rischio. Eppure in queste situazioni le donne spesso denunciano il rifiuto della polizia di aiutare a proteggere loro e i loro figli. Come viene presa in considerazione la voce della vittima nella valutazione del rischio con questo strumento?

Una preoccupazione particolare è se la polizia sia davvero attrezzata per intervenire in circostanze in cui non vi è alcun crimine. Il rappresentante del QPS Ben Martain ha affermato che quando i perpetratori "non sono in un punto di crisi, in uno stato emotivo elevato, o affetti da droghe o alcol" - sono "generalmente più inclini a riconoscere questo come un'opportunità di svolta nella loro vita".

Ma la stessa polizia ha messo in dubbio il loro ruolo nelle circostanze della violenza domestica, evidenziando invece il ruolo potenziale che potrebbero avere gli assistenti sociali, al loro posto.

Non è chiaro se la polizia sia il servizio meglio posizionato per intervenire in assenza di disturbi identificati. Il Queensland dispone già di protocolli di condivisione delle informazioni che coinvolgono squadre incaricate specificamente di rispondere alle persone coinvolte in relazioni di violenza domestica ad alto rischio. Questi team includono operatori di supporto basati sulla comunità.

Questo può essere un percorso migliore per l'intervento durante quei periodi critici di calma.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.