Un pomeriggio nel nostro laboratorio, io e il mio collega stavamo testando il nostro nuovo prototipo per un software di riconoscimento facciale su un laptop. Il software utilizzava una videocamera per scansionare i nostri volti e indovinare la nostra età e sesso. Ha indovinato correttamente la mia età, ma quando il mio collega, che era africano, l'ha provato, la fotocamera non ha rilevato affatto un volto. Abbiamo provato ad accendere le luci nella stanza, a regolare il suo sedile e lo sfondo, ma il sistema ha comunque faticato a rilevare il suo viso.

Dopo molti tentativi falliti, il software ha finalmente rilevato il suo viso, ma ha sbagliato la sua età e ha indicato il sesso sbagliato.

Il nostro software era solo un prototipo, ma la difficoltà di lavorare con carnagioni più scure riflette le esperienze delle persone di colore che cercano di utilizzare la tecnologia di riconoscimento facciale. Negli ultimi anni, i ricercatori hanno dimostrato l'ingiustizia nei sistemi di riconoscimento facciale, scoprendo che il software e gli algoritmi sviluppati dalle grandi aziende tecnologiche sono più accurati nel riconoscere i toni della pelle più chiari rispetto a quelli più scuri.

Eppure, di recente, il Guardian ha riferito che il Ministero dell'Interno del Regno Unito prevede di far scansionare i loro volti cinque volte al giorno ai migranti condannati per reati utilizzando uno smartwatch dotato di tecnologia di riconoscimento facciale. Un portavoce del Ministero dell'Interno ha affermato che la tecnologia di riconoscimento facciale non sarebbe stata utilizzata sui richiedenti asilo che arrivano illegalmente nel Regno Unito e che il rapporto sul suo utilizzo sui migranti delinquenti era "puramente speculativo".

Trova il giusto equilibrio

Ci sarà sempre una tensione tra sicurezza nazionale e diritti individuali. La sicurezza per molti può avere la priorità sulla privacy per pochi. Ad esempio, nel novembre 2015, quando il gruppo terroristico ISIS ha attaccato Parigi, uccidendo 130 persone, la polizia di Parigi ha trovato un telefono che uno dei terroristi aveva abbandonato sulla scena e ha letto i messaggi in esso contenuti.

Ci sono molte sfumature in questo problema. Dobbiamo chiederci, quali diritti sono frenati da una violazione della privacy, in che misura, e chi giudica se una violazione della privacy è in equilibrio con la gravità di un reato penale?

Nel caso di autori di reato che fotografano i loro volti più volte al giorno, si potrebbe sostenere che la violazione della privacy è nell'interesse della sicurezza nazionale per la maggior parte delle persone, se il reato è grave. Il governo ha il diritto di prendere tale decisione in quanto è responsabile della sicurezza dei suoi cittadini. Per i reati minori, tuttavia, il riconoscimento facciale potrebbe essere una misura troppo forte.

Nel suo piano, il Ministero dell'Interno non ha differenziato tra autori di reato minori e gravi; né ha fornito prove convincenti che il riconoscimento facciale migliori la conformità delle persone alla legge sull'immigrazione.

In tutto il mondo, sappiamo che è più probabile che il riconoscimento facciale venga utilizzato per sorvegliare le persone di colore monitorando i loro movimenti più spesso rispetto a quelli dei bianchi. Questo nonostante il fatto che i sistemi di riconoscimento facciale siano più accurati con tonalità della pelle più chiare rispetto a quelle più scure.

Scattare una foto del tuo viso e caricarla cinque volte al giorno potrebbe sembrare umiliante. Glitch con tonalità della pelle più scure potrebbero rendere il controllo nel sistema più di una semplice esperienza frustrante. Potrebbero esserci gravi conseguenze per i trasgressori se la tecnologia fallisce.

I difetti nel riconoscimento facciale potrebbero anche creare problemi di sicurezza nazionale per il governo. Ad esempio, potrebbe identificare erroneamente il volto di una persona come un'altra. La tecnologia di riconoscimento facciale non è pronta per qualcosa di importante come la sicurezza nazionale.

L'alternativa

Un'altra opzione che il governo sta prendendo in considerazione per i migranti delinquenti è il rilevamento della posizione. Il monitoraggio elettronico tiene già traccia delle persone con precedenti penali nel Regno Unito utilizzando le cavigliere e avrebbe senso applicare la stessa tecnologia allo stesso modo ai trasgressori migranti e non migranti.

Il rilevamento della posizione ha i suoi problemi etici per la privacy personale e la sorveglianza razziale. A causa della natura invadente del monitoraggio elettronico, alcune persone che indossano questi dispositivi possono soffrire di depressione, ansia o pensieri suicidi.

Ma almeno la tecnologia di localizzazione offre opzioni. Ad esempio, i dati possono essere gestiti in modo sensibile seguendo le linee guida sulla privacy dei dati come il Data Protection Act 2018 del Regno Unito. Possiamo ridurre al minimo la quantità di dati sulla posizione che raccogliamo tracciando la posizione di qualcuno solo una o due volte al giorno. Possiamo rendere anonimi i dati, rendendo visibili i nomi delle persone solo quando e dove necessario.

Il Ministero dell'Interno del Regno Unito potrebbe utilizzare i dati sulla posizione per segnalare attività sospette, ad esempio se un delinquente entra in un'area dalla quale è stato sbarrato. Per i trasgressori minori, non è necessario tracciare la posizione esatta della persona ma solo l'area generale, come un codice postale o una città.

Come società, dovremmo sforzarci di mantenere la dignità e la privacy delle persone, tranne nei casi più gravi. Ancora più importante, dovremmo garantire che la tecnologia non abbia il potenziale per discriminare un gruppo di persone in base alla loro etnia. La legge e il regolamento dovrebbero applicarsi allo stesso modo a tutte le persone.

Il portavoce del Ministero dell'Interno ha aggiunto:"Il pubblico si aspetta che controlliamo i detenuti stranieri condannati... I criminali stranieri non dovrebbero avere dubbi sulla nostra determinazione a deportarli, e il governo sta facendo tutto il possibile per aumentare il numero di detenuti stranieri che vengono espulsi. " + Esplora ulteriormente

Il riconoscimento facciale è stato fondamentale per identificare il sospetto di tiro negli Stati Uniti

Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l'articolo originale.