Il South Australia ha avviato una sperimentazione di una nuova app COVID per monitorare gli arrivi nello stato. Il premier della SA Steven Marshall ha affermato che "ogni sud australiano dovrebbe sentirsi piuttosto orgoglioso del fatto che siamo il pilota nazionale per l'app di quarantena domestica".

Ha poi raddoppiato con il vanto di essere "abbastanza sicuro che la tecnologia che abbiamo sviluppato all'interno del governo del South Australia diventerà lo standard nazionale e sarà implementata in tutto il paese".

Anche Victoria ha annunciato un'imminente quarantena domiciliare "supportata tecnologicamente", anche se i dettagli rimangono poco chiari. La quarantena domiciliare sarà eventualmente disponibile anche per gli arrivi internazionali, secondo il primo ministro Scott Morrison.

L'app del South Australia ha ricevuto poca attenzione in Australia, ma negli Stati Uniti la rivista Atlantic di sinistra lo definì "tanto orwelliano come qualsiasi altro nel mondo libero". Anche testate di destra come Fox News e Breitbart si sono unite all'attacco, e per una volta mi trovo d'accordo con loro.

Tracciamento della posizione e riconoscimento facciale

Nonostante le affermazioni del Premier SA, questa non è la prima app del genere ad essere utilizzata in Australia. Un'app simile per la quarantena domestica è già in uso per gli arrivi in ​​WA, e in alcuni casi il Territorio del Nord.

Entrambe le app utilizzano software di geolocalizzazione e riconoscimento facciale per tracciare e identificare le persone in quarantena. Gli utenti sono tenuti a dimostrare di essere a casa quando richiesto in modo casuale dall'applicazione.

In SA, hai 15 minuti per ottenere il software di riconoscimento facciale per verificare che sei ancora a casa. in WA, è più una gara. Hai solo 5 minuti prima di rischiare di bussare alla porta dalla polizia.

Un'altra differenza è che l'app SA è opt-in. Attualmente. L'app WA è già obbligatoria per gli arrivi da zone ad alto rischio come Victoria. Per aree a rischio estremo come il NSW, è direttamente in un hotel di quarantena.

Motivi di preoccupazione

Ma perché stiamo sviluppando tali app per la quarantena domestica, in primo luogo, quando abbiamo già una tecnologia economica per farlo? Se vogliamo monitorare che le persone siano a casa (e questo è un grande Se ), una delle targhette alla caviglia già utilizzate dai nostri servizi correttivi per la detenzione domiciliare non sarebbe molto più semplice, più sicuro e robusto?

Ci sono molti motivi per essere preoccupati per le app di quarantena domestica.

Primo, probabilmente saranno molto più facili da hackerare rispetto alle etichette per caviglie. Quanti di noi hanno violato i blocchi geografici per accedere a Netflix negli Stati Uniti, o per guardare altri contenuti digitali da un altro paese? Falsificare la posizione GPS su uno smartphone non è molto più difficile.

Secondo, il software di riconoscimento facciale è spesso difettoso, ed è spesso prevenuto contro le persone di colore e contro le donne. Il documentario Coded Bias fa un ottimo lavoro nell'eliminare questi pregiudizi.

Nonostante anni di sforzi, anche i grandi giganti della tecnologia come Google e Amazon non sono stati in grado di eliminare questi pregiudizi dal loro software. Ho poche speranze che il governo SA o la società WA GenVis, gli sviluppatori delle due app australiane di quarantena domestica, avrà fatto di meglio.

Infatti, la Commissione australiana per i diritti umani ha chiesto una moratoria sull'uso del software di riconoscimento facciale in contesti ad alto rischio come la polizia fino a quando non sarà in atto una migliore regolamentazione per proteggere i diritti umani e la privacy.

Terzo, ci deve essere un dibattito molto più dettagliato e pubblico su questioni come la privacy, e le garanzie messe in atto sulla base di questa discussione, in anticipo rispetto alla tecnologia utilizzata.

Con le app di check-in COVID, ci è stato promesso che i dati sarebbero stati utilizzati solo per scopi di salute pubblica. Ma le forze di polizia in tutta l'Australia hanno avuto accesso a queste informazioni per altri scopi in almeno sei occasioni. Ciò mina gravemente la fiducia del pubblico e l'uso di tali app.

Prima che fosse lanciato, l'app COVIDSafe del Commonwealth aveva messo in atto divieti legislativi sull'uso dei dati raccolti per qualsiasi cosa tranne la traccia dei contatti. Questo forse ci ha dato un falso senso di sicurezza in quanto le app di check-in COVID prodotte dallo stato non avevano tali garanzie legali. Solo alcuni Stati hanno introdotto retroattivamente una legislazione per fornire tali protezioni.

Il quarto, dobbiamo preoccuparci di come software come questo legittimi tecnologie come il riconoscimento facciale che in definitiva erodono diritti fondamentali come il diritto alla privacy.

Se le app di quarantena domestica funzionano correttamente, apriranno la porta al riconoscimento facciale utilizzato in altri contesti? Per identificare i ladri di negozi? Per fornire l'accesso al welfare? O alla sanità? In quale mondo orwelliano ci porterà questo?

I pericoli del riconoscimento facciale

In Cina, abbiamo già visto software di riconoscimento facciale utilizzato per monitorare e perseguitare la minoranza uigura. Negli Stati Uniti, almeno tre neri sono già finiti erroneamente in carcere a causa di errori di riconoscimento facciale.

Il riconoscimento facciale è una tecnologia pericolosa se non funziona (come spesso accade). E pericoloso se lo fa. cambia la velocità, scala e costo della sorveglianza.

Con il software di riconoscimento facciale dietro le telecamere a circuito chiuso che si trovano a molti angoli delle strade, puoi essere rintracciato 24 ore su 24, 7 giorni su 7. Non sei più anonimo quando esci per fare la spesa. O quando protesti per l'importanza delle vite dei neri o per l'emergenza climatica.

L'alta tecnologia non è la soluzione

Il software ad alta tecnologia come il riconoscimento facciale non è una soluzione per i problemi che hanno afflitto la risposta dell'Australia alla pandemia. Non può rimediare al mancato acquisto di vaccini sufficienti, la mancata costruzione di strutture di quarantena dedicate, o le lotte interne e il punteggio tra gli stati e con il Commonwealth.

Non avrei mai pensato di dirlo ma, tutto sommato, Penso che preferirei un'etichetta alla caviglia. E se l'immagine della targhetta alla caviglia ti sembra troppo inquietante, potremmo fare quello che ha fatto Hong Kong e farne un braccialetto.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.