Con un breve sguardo a un solo volto, il software emergente di riconoscimento facciale può ora classificare il genere di molti uomini e donne con notevole precisione.

Ma se quella faccia appartiene a una persona transgender, tali sistemi si sbagliano più di un terzo delle volte, secondo la nuova ricerca dell'Università del Colorado Boulder.

"Abbiamo scoperto che i servizi di analisi facciale hanno ottenuto risultati costantemente peggiori sugli individui transgender, ed erano universalmente incapaci di classificare i generi non binari, " ha detto l'autore principale Morgan Klaus Scheuerman, un dottorato di ricerca studente del dipartimento di Scienze dell'Informazione. "Mentre ci sono molti diversi tipi di persone là fuori, questi sistemi hanno una visione estremamente limitata di come appare il genere".

Lo studio arriva in un momento in cui le tecnologie di analisi facciale, che utilizzano telecamere nascoste per valutare e caratterizzare alcune caratteristiche di un individuo, stanno diventando sempre più diffuse, integrato in qualsiasi cosa, dalle app di appuntamenti per smartphone e dai chioschi digitali nei centri commerciali alla sicurezza aeroportuale e ai sistemi di sorveglianza delle forze dell'ordine.

Ricerche precedenti suggeriscono che tendono ad essere più precisi quando si valuta il genere degli uomini bianchi, ma identificano erroneamente le donne di colore fino a un terzo delle volte.

"Sapevamo che c'erano pregiudizi intrinseci in questi sistemi riguardo alla razza e all'etnia e sospettavamo che ci sarebbero stati anche problemi riguardo al genere, " ha detto l'autore senior Jed Brubaker, un assistente professore di Scienze dell'Informazione. "Abbiamo deciso di testare questo nel mondo reale."

I ricercatori hanno raccolto 2, 450 immagini di volti da Instagram, ognuno dei quali era stato etichettato dal suo proprietario con un hashtag che ne indicava l'identità di genere. Le immagini sono state poi divise in sette gruppi di 350 immagini (#donne, #uomo, #transdonna, #transman, #agenda, #agenderqueer, #nonbinary) e analizzato da quattro dei maggiori fornitori di servizi di analisi facciale (IBM, Amazzonia, Microsoft e Clarifai).

In particolare, Google non è stato incluso perché non offre servizi di riconoscimento del genere.

In media, i sistemi erano più accurati con foto di donne cisgender (quelle nate femmine e che si identificano come femmine), ottenere il loro genere giusto il 98,3% delle volte. Hanno classificato gli uomini cisgender con precisione il 97,6% delle volte.

Ma gli uomini trans sono stati erroneamente identificati come donne fino al 38% delle volte.

E quelli che si sono identificati come agender, genderqueer o non binario, indicando che non si identificano né come maschi né come femmine, sono stati mal caratterizzati il ​​100% delle volte.

"Questi sistemi non conoscono altra lingua che maschio o femmina, quindi per molte identità di genere non è possibile che siano corrette, "dice Brubaker.

Lo studio suggerisce inoltre che tali servizi identificano il genere sulla base di stereotipi obsoleti.

Quando Scheuerman, che è maschio e ha i capelli lunghi, ha presentato la sua foto, metà lo ha classificato come femmina.

I ricercatori non hanno potuto accedere ai dati di formazione, o input di immagini utilizzati per "insegnare" al sistema che aspetto hanno il maschio e la femmina, ma ricerche precedenti suggeriscono che valutano cose come la posizione degli occhi, pienezza delle labbra, lunghezza dei capelli e persino vestiti.

"Questi sistemi corrono il rischio di rafforzare gli stereotipi su come dovresti apparire se vuoi essere riconosciuto come un uomo o una donna. E questo ha un impatto su tutti, ", ha detto Scheuerman.

Si prevede che il mercato dei servizi di riconoscimento facciale raddoppierà entro il 2024, mentre gli sviluppatori tecnologici lavorano per migliorare l'interazione uomo-robot e indirizzare più attentamente gli annunci agli acquirenti. Già, note di Brubaker, le persone utilizzano ogni giorno la tecnologia di riconoscimento facciale per accedere ai propri smartphone o accedere ai propri computer.

Se ha la tendenza a misgender certo, già vulnerabile, popolazioni che potrebbero avere gravi conseguenze.

Ad esempio, un'app di abbinamento potrebbe organizzare un appuntamento con qualcuno con il sesso sbagliato, portare a una situazione potenzialmente pericolosa. O una discrepanza tra il genere che vede un programma di riconoscimento facciale e la documentazione che una persona porta potrebbe portare a problemi nel superare i controlli di sicurezza dell'aeroporto, dice Scheuermann.

È molto preoccupato che tali sistemi riaffermino l'idea che le persone transgender non si adattino.

"La gente pensa alla visione artificiale come futuristica, ma ci sono molte persone che potrebbero essere escluse da questo cosiddetto futuro, " Egli ha detto.

Gli autori affermano che vorrebbero vedere le aziende tecnologiche allontanarsi completamente dalla classificazione di genere e attenersi a etichette più specifiche come "capelli lunghi" o "trucco" quando valutano le immagini.

"Quando cammini per strada potresti guardare qualcuno e presumere di sapere qual è il loro genere, ma questa è un'idea davvero bizzarra degli anni '90 e non è più come è il mondo, " ha detto Brubaker. "Come si è evoluta la nostra visione e la nostra comprensione culturale di cosa sia il genere. Gli algoritmi che guidano il nostro futuro tecnologico no. Questo è profondamente problematico".

La ricerca sarà presentata a novembre alla Conferenza ACM sul lavoro cooperativo supportato dal computer ad Austin, Texas.