Credito:JR Korpa / Unsplash
Il volto umano è speciale. È contemporaneamente pubblico e personale. I nostri volti rivelano informazioni sensibili su di noi:chi siamo, ovviamente, ma anche il nostro genere, le emozioni, lo stato di salute e altro ancora.
I legislatori in Australia, come quelli di tutto il mondo, non avrebbero mai previsto che i nostri dati sui volti sarebbero stati raccolti su scala industriale, quindi utilizzati in tutto, dai nostri smartphone alle telecamere a circuito chiuso della polizia. Quindi non dovremmo essere sorpresi dal fatto che le nostre leggi non siano state al passo con lo straordinario aumento della tecnologia di riconoscimento facciale.
Ma di che tipo di leggi abbiamo bisogno? La tecnologia può essere utilizzata sia per il bene che per il male, quindi né vietarla né l'attuale libero per tutti sembrano l'ideale.
Tuttavia, il fallimento normativo ha reso la nostra comunità vulnerabile agli usi dannosi del riconoscimento facciale. Per colmare il divario giuridico, proponiamo una "legge modello":uno schema di legislazione che i governi di tutta l'Australia potrebbero adottare o adattare per regolamentare gli usi rischiosi del riconoscimento facciale consentendo al contempo quelli sicuri.
La sfida delle tecnologie di riconoscimento facciale
I casi d'uso per le tecnologie di riconoscimento facciale sembrano limitati solo dalla nostra immaginazione. Molti di noi non pensano nulla all'utilizzo del riconoscimento facciale per sbloccare i nostri dispositivi elettronici. Tuttavia, la tecnologia è stata anche sperimentata o implementata in tutta l'Australia in un'ampia gamma di situazioni, tra cui scuole, aeroporti, negozi al dettaglio, club e luoghi di gioco e forze dell'ordine.
Poiché l'uso del riconoscimento facciale cresce di circa il 20% all'anno, aumenta anche il rischio per gli esseri umani, specialmente in contesti ad alto rischio come la polizia.
Negli Stati Uniti, l'affidarsi a una tecnologia di riconoscimento facciale soggetta a errori ha portato a numerosi casi di ingiustizia, in particolare che coinvolgono i neri. Questi includono l'arresto e la detenzione illeciti di Robert Williams e l'esclusione illecita di una giovane ragazza di colore da una pista di pattinaggio a Detroit.
Molte delle più grandi aziende tecnologiche del mondo, tra cui Meta, Amazon e Microsoft, hanno ridotto o interrotto i propri servizi relativi al riconoscimento facciale. Hanno citato preoccupazioni per la sicurezza dei consumatori e la mancanza di una regolamentazione efficace.
Questo è lodevole, ma ha anche provocato una sorta di "fallimento del mercato normativo". Mentre quelle aziende si sono tirate indietro, altre aziende con meno scrupoli hanno conquistato una quota maggiore del mercato del riconoscimento facciale.
Prendi l'azienda americana Clearview AI. Ha raccolto miliardi di immagini di volti dai social media e da altri siti Web senza il consenso delle persone colpite, quindi ha creato un servizio di abbinamento dei volti che ha venduto alla polizia federale australiana e ad altri organismi delle forze dell'ordine in tutto il mondo.
Nel 2021, l'Australian Information &Privacy Commissioner ha scoperto che sia Clearview AI che AFP avevano violato la legge australiana sulla privacy, ma azioni di contrasto come questa sono rare.
Tuttavia, gli australiani vogliono una migliore regolamentazione del riconoscimento facciale. Ciò è stato dimostrato nel rapporto 2021 della Commissione australiana per i diritti umani, nell'indagine CHOICE del 2022 sull'uso della tecnologia di riconoscimento facciale da parte dei principali rivenditori e nella ricerca che lo Human Technology Institute ha commissionato come parte del nostro modello di legge.
Opzioni per la riforma del riconoscimento facciale
Quali opzioni ha l'Australia? Il primo è non fare nulla. Ma questo significherebbe accettare che non saremo protetti dall'uso dannoso delle tecnologie di riconoscimento facciale e mantenerci sulla nostra attuale traiettoria verso la sorveglianza di massa.
Un'altra opzione sarebbe vietare del tutto la tecnologia di riconoscimento facciale. Alcune giurisdizioni hanno effettivamente istituito moratorie sulla tecnologia, ma contengono molte eccezioni (per usi positivi) e sono nella migliore delle ipotesi una soluzione temporanea.
A nostro avviso, l'opzione di riforma migliore è una legge che regoli le tecnologie di riconoscimento facciale in base a quanto siano rischiose. Tale legge incoraggerebbe il riconoscimento facciale con un chiaro vantaggio pubblico, proteggendo al contempo da usi dannosi della tecnologia.
Una legge basata sul rischio per la regolamentazione della tecnologia di riconoscimento facciale
Il nostro modello di legge richiederebbe a chiunque sviluppi o utilizzi sistemi di riconoscimento facciale in Australia di condurre una rigorosa valutazione d'impatto per valutare il rischio per i diritti umani.
Con l'aumento del livello di rischio, aumenterebbero anche i requisiti o le restrizioni legali. Gli sviluppatori dovrebbero inoltre rispettare uno standard tecnico per il riconoscimento facciale, in linea con gli standard internazionali per le prestazioni dell'IA e una buona gestione dei dati.
La legge modello contiene un divieto generale sugli usi ad alto rischio delle applicazioni di riconoscimento facciale. Ad esempio, sarebbe vietata un'applicazione di "analisi facciale" che pretendesse di valutare l'orientamento sessuale degli individui e quindi di prendere decisioni al riguardo. (Purtroppo, questa non è un'ipotesi inverosimile.)
Il modello di legge prevede anche tre eccezioni al divieto della tecnologia di riconoscimento facciale ad alto rischio:
Revisione da parte dell'autorità di regolamentazione e delle persone interessate
Qualsiasi legge dovrebbe essere applicata da un regolatore con poteri e risorse appropriati. Chi dovrebbe essere?
La maggior parte delle parti interessate che abbiamo consultato, inclusi utenti aziendali, aziende tecnologiche e rappresentanti della società civile, hanno proposto che l'Office of the Australian Information Commissioner (OAIC) sarebbe adatto a fungere da regolatore della regolamentazione facciale. Per alcuni utenti sensibili, come l'esercito e alcune agenzie di sicurezza, potrebbe essere necessario anche un regime di supervisione specializzato.
Il momento della riforma è ora
Non abbiamo mai visto così tanti gruppi e individui della società civile, dell'industria e del governo così coinvolti e allineati sulla necessità di una riforma della tecnologia di riconoscimento facciale. Ciò si riflette nel sostegno alla legge modello sia dal Technology Council of Australia che da CHOICE.
Dato lo straordinario aumento degli usi del riconoscimento facciale e un crescente consenso tra le parti interessate, il procuratore generale federale dovrebbe cogliere questo momento e guidare la riforma nazionale. La prima priorità è introdurre un disegno di legge federale, che potrebbe facilmente essere basato sul nostro modello di legge. Il procuratore generale dovrebbe anche collaborare con gli stati e i territori per armonizzare la legge australiana sul riconoscimento facciale.
Questa proposta di riforma è importante di per sé:non possiamo permettere che le tecnologie di riconoscimento facciale rimangano effettivamente non regolamentate. Dimostrerebbe anche come l'Australia può utilizzare la legge per proteggersi dagli usi dannosi delle nuove tecnologie, incentivando allo stesso tempo l'innovazione a beneficio pubblico.
Maggiori informazioni sulla legge modello possono essere trovate nel nostro rapporto "Tecnologia di riconoscimento facciale:verso una legge modello". + Esplora ulteriormente
Questo articolo è stato ripubblicato da The Conversation con licenza Creative Commons. Leggi l'articolo originale. 
