Il video della polizia in tenuta antisommossa che si scontra con i manifestanti disarmati sulla scia dell'uccisione di George Floyd da parte dell'agente di polizia di Minneapolis Derek Chauvin ha riempito i feed dei social media. Nel frattempo, la sorveglianza della polizia sui manifestanti è rimasta in gran parte nascosta.

Locale, le forze dell'ordine statali e federali utilizzano una serie di tecnologie di sorveglianza per identificare e tenere traccia dei manifestanti, dal riconoscimento facciale ai droni di livello militare.

L'uso da parte della polizia di queste tecniche di sorveglianza in stile sicurezza nazionale, giustificate come tecniche convenienti che evitano pregiudizi ed errori umani, è cresciuto di pari passo con la crescente militarizzazione delle forze dell'ordine. Ricerca ampia, compreso il mio, ha dimostrato che queste capacità di sorveglianza espansive e potenti hanno esacerbato piuttosto che ridotto i pregiudizi, eccesso e abuso nella polizia, e rappresentano una minaccia crescente per le libertà civili.

Gli sforzi di riforma della polizia stanno sempre più esaminando l'uso delle tecnologie di sorveglianza da parte delle forze dell'ordine. Sulla scia degli attuali disordini, IBM, Amazon e Microsoft hanno frenato l'uso da parte della polizia della tecnologia di riconoscimento facciale delle aziende. E le proposte di riforma della polizia presentate dai Democratici alla Camera dei rappresentanti degli Stati Uniti chiedono di regolamentare l'uso da parte della polizia dei sistemi di riconoscimento facciale.

Un decennio di sorveglianza sui big data

Non abbiamo sempre vissuto in un mondo di telecamere della polizia, sensori intelligenti e analisi predittiva. La recessione e la rabbia hanno alimentato l'ascesa iniziale delle tecnologie di polizia dei big data. Nel 2009, di fronte al federale, tagli di bilancio statali e locali causati dalla Grande Recessione, i dipartimenti di polizia hanno iniziato a cercare modi per fare di più con meno. Le aziende tecnologiche si sono affrettate a colmare le lacune, offrendo nuove forme di polizia basata sui dati come modelli di efficienza e riduzione dei costi.

Quindi, nel 2014, l'uccisione da parte della polizia di Michael Brown a Ferguson, Missouri, ha sconvolto le relazioni già logore della polizia e della comunità. Gli omicidi di Michael Brown, Eric Garner, Filando Castiglia, Riso Tamir, Walter Scott, Sandra Bland, Freddie Gray e George Floyd hanno tutti scatenato proteste a livello nazionale e appelli per la giustizia razziale e la riforma della polizia. La polizia è stata portata in modalità di crisi poiché l'indignazione della comunità ha minacciato di delegittimare la struttura di potere della polizia esistente.

In risposta alle doppie minacce di pressioni sui costi e critiche della comunità, i dipartimenti di polizia hanno ulteriormente abbracciato le società tecnologiche di avvio che vendono l'efficienza dei big data e la speranza che qualcosa di "guidato dai dati" consentisse alle comunità di andare oltre i problemi fin troppo umani della polizia. L'analisi predittiva e le funzionalità video con bodycam sono state vendute come soluzioni oggettive ai pregiudizi razziali. In larga misura, la strategia di pubbliche relazioni ha funzionato, che ha permesso alle forze dell'ordine di abbracciare la polizia predittiva e una maggiore sorveglianza digitale.

Oggi, nel mezzo di una rinnovata indignazione contro il razzismo strutturale e la brutalità della polizia, e all'ombra di una recessione economica ancora più profonda, le forze dell'ordine affrontano la stessa tentazione di adottare una soluzione basata sulla tecnologia per problemi sociali profondi. È probabile che i capi della polizia vogliano voltare pagina dagli attuali livelli di rabbia e sfiducia della comunità.

I pericoli della sorveglianza ad alta tecnologia

Invece di ripetere gli errori degli ultimi 12 anni o giù di lì, le comunità hanno l'opportunità di rifiutare l'espansione della sorveglianza dei big data. I pericoli sono solo aumentati, i danni resi evidenti dall'esperienza.

Quelle piccole aziende startup che inizialmente si sono precipitate nel settore della polizia sono state sostituite da grandi aziende tecnologiche con tasche profonde e grandi ambizioni.

Axon ha capitalizzato le richieste di responsabilità della polizia dopo le proteste di Ferguson e Baltimora per diventare una società multimilionaria che fornisce servizi digitali per le telecamere indossate dalla polizia. Amazon ha ampliato le partnership con centinaia di dipartimenti di polizia attraverso le sue fotocamere Ring e l'app Neighbours. Altre aziende come BriefCam, Palantir e Shotspotter offrono una serie di analisi video, analisi dei social network e altre tecnologie di sensori con la capacità di vendere tecnologia a basso costo nel breve periodo con la speranza di un vantaggio di mercato a lungo termine.

La tecnologia stessa è più potente. I modelli algoritmici creati dieci anni fa impallidiscono rispetto alle capacità di apprendimento automatico di oggi. I flussi delle videocamere sono stati digitalizzati e potenziati con funzionalità di analisi e riconoscimento facciale, trasformare la sorveglianza statica in una macchina del tempo virtuale per trovare schemi nella folla. Alla trappola dei dati si aggiungono gli smartphone, case intelligenti e auto intelligenti, che ora consentono alla polizia di scoprire le tracce digitali degli individui con relativa facilità.

La tecnologia è più interconnessa. Uno dei fattori limitanti naturali della tecnologia di polizia dei big data di prima generazione è stato il fatto che è rimasta isolata. I database non potevano comunicare tra loro. I dati non possono essere condivisi facilmente. Questo fattore limitante si è ridotto man mano che sono stati sviluppati sistemi di dati più aggregati all'interno del governo e da fornitori privati.

La promessa di obiettivi, la tecnologia imparziale non ha funzionato. Il pregiudizio razziale nella polizia non è stato risolto accendendo una telecamera. Invece la tecnologia ha creato nuovi problemi, inclusa l'evidenziazione della mancanza di responsabilità per i casi di violenza della polizia di alto profilo.

Lezioni per tenere a freno lo spionaggio della polizia

I danni della sorveglianza dei big data sono stati ripetutamente esposti. I programmi che tentavano di prevedere i comportamenti degli individui a Chicago e Los Angeles sono stati chiusi dopo che audit devastanti hanno catalogato il loro impatto discriminatorio e il loro fallimento pratico. I sistemi predittivi basati sul luogo sono stati chiusi a Los Angeles e in altre città che inizialmente avevano adottato la tecnologia. Scandali che coinvolgono il riconoscimento facciale, la tecnologia di analisi dei social network e la sorveglianza dei sensori su larga scala servono come avvertimento che la tecnologia non può affrontare i problemi più profondi della razza, potere e privacy che sono al centro della polizia moderna.

La lezione della prima era della sorveglianza dei big data è che le questioni di razza, trasparenza e diritti costituzionali devono essere in prima linea nel design, regolamento e uso. Ogni errore può essere ricondotto all'incapacità di vedere come la tecnologia di sorveglianza si inserisca nel contesto del moderno potere di polizia, un contesto che include questioni di vecchia data del razzismo e del controllo sociale. Ogni soluzione punta ad affrontare quello squilibrio di potere al front-end, attraverso il controllo locale, impegno comunitario e legge federale, non dopo che la tecnologia è stata adottata.

I dibattiti sul defunding, smilitarizzare e reinventare le pratiche di applicazione della legge esistenti deve includere una discussione sulla sorveglianza della polizia. Ci sono un decennio di passi falsi da cui imparare e sfide che definiscono l'era della privacy e della giustizia razziale. Il modo in cui i dipartimenti di polizia risponderanno al richiamo della sirena della sorveglianza dei big data rivelerà se sono sulla buona strada per ripetere gli stessi errori.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.