La tecnologia di riconoscimento facciale si sta diffondendo rapidamente. Già diffuso in Cina, il software che identifica le persone confrontando le immagini dei loro volti con un database di record viene ora adottato in gran parte del resto del mondo. È comune tra le forze di polizia, ma è stato utilizzato anche negli aeroporti, stazioni ferroviarie e centri commerciali.

La rapida crescita di questa tecnologia ha innescato un dibattito tanto necessario. attivisti, politici, accademici e persino forze di polizia esprimono serie preoccupazioni per l'impatto che il riconoscimento facciale potrebbe avere su una cultura politica basata sui diritti e sulla democrazia.

Preoccupazioni per i diritti umani

Come qualcuno che ricerca il futuro dei diritti umani, Condivido queste preoccupazioni. Ecco dieci motivi per cui dovremmo preoccuparci dell'uso della tecnologia di riconoscimento facciale negli spazi pubblici.

(1) Ci mette sulla strada della sorveglianza automatizzata a tappeto

La videosorveglianza è già diffusa in tutto il mondo, ma affinché i governi utilizzino filmati contro di te, devono trovare filmati specifici di te mentre fai qualcosa che possono rivendicare come prova. La tecnologia di riconoscimento facciale porta il monitoraggio a nuovi livelli. Consente la sorveglianza dal vivo automatizzata e indiscriminata delle persone mentre svolgono le loro attività quotidiane, dando alle autorità la possibilità di monitorare ogni tua mossa.

(2) Opera senza un quadro giuridico o normativo chiaro

La maggior parte dei paesi non ha una legislazione specifica che regoli l'uso della tecnologia di riconoscimento facciale, anche se alcuni legislatori stanno cercando di cambiare questo. Questo limbo legale apre la porta agli abusi, come ottenere le nostre immagini a nostra insaputa o consenso e utilizzarle in modi che non approveremmo.

(3) Viola i principi di necessità e proporzionalità

Un principio dei diritti umani comunemente affermato, riconosciuto dalle organizzazioni delle Nazioni Unite al London Policing Ethics Panel, è che la sorveglianza dovrebbe essere necessaria e proporzionata. Ciò significa che la sorveglianza dovrebbe essere limitata al perseguimento di reati gravi invece di consentire l'ingerenza ingiustificata nella nostra libertà e nei diritti fondamentali. La tecnologia di riconoscimento facciale è in contrasto con questi principi. È una tecnologia di controllo che è sintomatica della sfiducia dello stato nei confronti dei suoi cittadini.

(4) Viola il nostro diritto alla privacy

Il diritto alla privacy è importante, anche negli spazi pubblici. Protegge l'espressione della nostra identità senza intrusioni indesiderate da parte dello Stato o di aziende private. La registrazione indiscriminata e su larga scala della tecnologia di riconoscimento facciale, l'archiviazione e l'analisi delle nostre immagini mina questo diritto perché significa che non possiamo più fare nulla in pubblico senza che lo stato lo sappia.

(5) Ha un effetto raggelante sulla nostra cultura politica democratica

La sorveglianza globale può dissuadere le persone dal partecipare a eventi pubblici. Può soffocare la partecipazione a proteste politiche e campagne per il cambiamento. E può scoraggiare comportamenti anticonformisti. Questo effetto raggelante costituisce una grave violazione del diritto alla libertà di riunione, associazione, ed espressione.

(6) Nega ai cittadini la possibilità del consenso

Mancano informazioni dettagliate e specifiche su come viene effettivamente utilizzato il riconoscimento facciale. Ciò significa che non ci viene data la possibilità di acconsentire alla registrazione, analisi e memorizzazione delle nostre immagini in database. Negandoci la possibilità di acconsentire, ci viene negata la scelta e il controllo sull'uso delle nostre immagini.

(7) È spesso impreciso

La tecnologia di riconoscimento facciale promette un'identificazione accurata. Ma numerosi studi hanno evidenziato come gli algoritmi addestrati su set di dati di parte razziale identifichino erroneamente le persone di colore, soprattutto donne di colore. Tale pregiudizio algoritmico è particolarmente preoccupante se si traduce in arresti illegali, o se porta le agenzie pubbliche e le aziende private a discriminare le donne e le persone appartenenti a minoranze etniche.

(8) Può portare a bias di automazione

Se le persone che utilizzano il software di riconoscimento facciale credono erroneamente che la tecnologia sia infallibile, può portare a decisioni sbagliate. Questo "pregiudizio dell'automazione" deve essere evitato. I risultati generati dalla macchina non dovrebbero determinare come le agenzie statali o le società private trattano gli individui. Gli operatori umani formati devono esercitare un controllo significativo e prendere decisioni basate sulla legge.

(9) Implica che ci siano liste di controllo segrete del governo

I database che contengono le nostre immagini facciali dovrebbero far suonare un campanello d'allarme. Implicano che le aziende private e le forze dell'ordine condividano le nostre immagini per creare liste di controllo di potenziali sospetti a nostra insaputa o consenso. Questa è una seria minaccia ai nostri diritti individuali e alle libertà civili. La sicurezza di questi database, e la loro vulnerabilità alle azioni degli hacker, è anche motivo di preoccupazione.

(10) Può essere utilizzato per colpire gruppi già vulnerabili

La tecnologia di riconoscimento facciale può essere utilizzata per la sorveglianza a tappeto. Ma può anche essere distribuito in modo selettivo, ad esempio per identificare migranti e rifugiati. La vendita di software di riconoscimento facciale ad agenzie come la controversa US Immigration and Customs Enforcement (ICE), che è stato pesantemente criticato per le sue tattiche nel trattare con i migranti, dovrebbe preoccupare chiunque abbia a cuore i diritti umani. E l'uso di dispositivi mobili portatili con un'app di riconoscimento facciale da parte delle forze di polizia solleva lo spettro di una profilazione razziale avanzata a livello stradale.

Dibattito assolutamente necessario

Con così tante preoccupazioni sulla tecnologia di riconoscimento facciale, abbiamo disperatamente bisogno di una conversazione più importante sul suo impatto sui nostri diritti e libertà civili. Senza un'adeguata regolamentazione di questi sistemi, rischiamo di creare stati di polizia distopici in quelli che una volta erano liberi, paesi democratici.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.