Lauren Rhue ricerca il mondo frenetico dell'intelligenza artificiale e della tecnologia di apprendimento automatico. Ma vuole che tutti quelli che ci sono dentro rallentino.

Rhue, assistente professore di sistemi informativi presso la Robert H. Smith School of Business dell'Università del Maryland, ha recentemente verificato la tecnologia di riconoscimento delle emozioni all'interno di tre servizi di riconoscimento facciale:Amazon Rekognition, Face++ e Microsoft. La sua ricerca ha rivelato quelle che Rhue chiamava disparità razziali "veramente evidenti".

Amazon Rekognition è offerto per l'uso ad altre società. Face++ viene utilizzato nella verifica dell'identità. Microsoft prevede di smettere di utilizzare la sua tecnologia di riconoscimento facciale quest'anno, inclusi gli strumenti di riconoscimento delle emozioni.

Rhue ha raccolto foto di giocatori NBA in bianco e nero della stagione 2016, controllando il grado in cui sorridevano. Ha quindi eseguito quelle foto tramite il software di riconoscimento facciale.

In generale, i modelli hanno assegnato più emozioni negative ai giocatori neri, ha scoperto Rhue. Inoltre, se i giocatori avevano espressioni facciali ambigue, era più probabile che i giocatori neri avessero un'espressione facciale negativa, mentre ai giocatori bianchi era più probabile che "avesse il beneficio del dubbio".

"Penso che dovremmo tutti fare un passo indietro e pensare, abbiamo bisogno di analizzare i volti in questo modo?" disse Rhue.

Rhue, 39 anni, non è la prima a esplorare la disparità razziale nei sistemi di intelligenza artificiale. Ad esempio, la studentessa del MIT Joy Buolamwini ha raccontato a TED Talks la sua esperienza con un software di analisi facciale che non poteva rilevare il suo viso perché l'algoritmo non era stato codificato per identificare una gamma sufficientemente ampia di tonalità della pelle e strutture facciali.

"Con l'attuale entusiasmo per l'IA, sembra essere necessario creare un modello per tutto ciò per cui puoi creare un modello", ha affermato Rhue. "Ma mi piacerebbe davvero vedere un po' più di pausa e riflessione su:'Abbiamo bisogno di questo? Cosa sta portando in tavola?'"

L'uso della tecnologia di riconoscimento facciale si sta diffondendo. Il porto di Baltimora utilizza la tecnologia di riconoscimento facciale per verificare l'identità dei passeggeri che sbarcano. HireVue, con sede nello Utah, conduce interviste video per potenziali dipendenti e valuta i volti e le emozioni dei candidati come parte della sua analisi della candidatura. L'intelligenza artificiale è stata utilizzata per analizzare le emozioni e il linguaggio del corpo per trovare potenziali minacce tra la folla.

Alcuni stati stanno limitando l'uso dell'IA. La California, ad esempio, sta valutando la possibilità di limitare l'uso dell'intelligenza artificiale per selezionare i candidati al lavoro per evitare "un impatto discriminatorio". In Illinois, i datori di lavoro devono rivelare quando utilizzano gli strumenti di intelligenza artificiale durante le interviste video. Il Maryland ha una legge simile.

E la scorsa estate, il Consiglio comunale di Baltimora ha creato una moratoria sull'uso della tecnologia di riconoscimento facciale, esentando il dipartimento di polizia, fino a dicembre.

E poiché l'intelligenza artificiale penetra in tutte le aree della società, Rhue vuole solo che le persone ― e le aziende ― si fermino e pensino agli effetti a lungo termine.

"Questi tipi di sistemi stanno diventando sempre più integrati nella nostra, nella nostra tecnologia. Non sempre ne siamo consapevoli. Non siamo sempre consapevoli di come vengono utilizzati", ha affermato Rhue. "E penso che sia importante capire il potenziale di pregiudizi. E poi la compensazione della mia ricerca sta guardando all'intervento umano per vedere se questo lo rende migliore, se le persone sono in grado di compensare quel pregiudizio".

Rhue ha osservato che in ogni situazione è necessaria una combinazione di strumenti di intelligenza artificiale e intervento umano per mitigare i pregiudizi. Vuole anticipare le "conseguenze negative e non intenzionali".

E pensa che anche il resto del suo campo stia iniziando a dare priorità a quel tipo di lavoro. Ha affermato che la morte di George Floyd per mano della polizia e le successive richieste di giustizia razziale nel 2020 hanno portato a un interesse a comprendere le lotte delle comunità emarginate e come la tecnologia può promuovere l'inclusione.

Jui Ramaprasad, professore associato di sistemi informativi presso la business school del Maryland, lavora con Rhue e la conosce da quando era una studentessa di dottorato alla New York University. Ha detto che il lavoro che Rhue sta facendo in modo parziale nell'apprendimento automatico è uno dei "lavori di maggior impatto" nel loro campo.

"Penso che stia facendo un lavoro a cui tiene perché la colpisce, colpisce le persone nella comunità", ha detto Ramaprasad. "Penso che sia davvero difficile essere la persona che fa il lavoro quando sei anche una persona che deve affrontare quei pregiudizi o discriminazioni nell'ambiente in cui viviamo e lavoriamo."

Nonostante le disparità che ha scoperto, Rhue crede che la tecnologia possa essere utilizzata per sempre. Ad esempio, Rhue ha studiato il crowdfunding su piattaforme digitali con particolare attenzione a Kickstarter, che cura le campagne in base all'interesse del personale. Nel tentativo di evidenziare i progetti proposti dai creatori neri, ha scoperto che l'utilizzo di modelli predittivi anziché fare affidamento sull'analisi umana soggettiva ha aumentato i tassi di raccomandazione per i progetti neri senza ridurre il tasso di successo.

"Penso che ci sia così tanto potenziale per la tecnologia per avere davvero un impatto positivo sull'inclusione, e in particolare sull'inclusione finanziaria", ha affermato Rhue.

Al di fuori della sua ricerca, Rhue insegna visualizzazione dei dati a studenti universitari e master. In precedenza ha insegnato alla Wake Forest University.

Rhue ha detto che può vedere l'impatto che ha in classe. Ha avuto studenti che le hanno detto, inclusi alcuni alla scuola di specializzazione, che è l'unica professoressa nera che abbiano mai avuto. E ha avuto altri che le hanno detto che vogliono perseguire il proprio dottorato di ricerca. perché lei lo ha fatto sembrare possibile.

Will Hawks è un assistente professore di management presso la Nova Southeastern University Florida. Prima di allora, era uno studente di Rhue a Wake Forest.

Anche se Rhue non è stata la sua prima professoressa nera (Hawks ha già frequentato la Florida A&M University, un'istituzione storicamente nera), vederla nel campus ha comunque impressionato.

"Vedere qualcuno che ti somiglia realizzare cose che non pensi possano essere realizzate - è l'impossibile reso reale", ha detto Hawks. "Essere un professore nero e maschio in questo stesso settore ora... la nostra presenza significa molto di più per loro. E lo so perché sono stato nei loro panni."

Hawks ha definito Rhue un "punto di svolta" per lui. È rimasto in contatto con lei da quando si è laureato; ha contattato quando stava facendo domanda per un lavoro accademico e anche di recente l'ha invitata a unirsi a lui nella ricerca sui crimini ispirati dall'odio noti come "attentati dinamitardi" e su come quegli incidenti colpiscono organizzazioni e persone. Hawks crede che Rhue abbia cambiato il corso della sua vita.

"Non parleresti con il dottor Will Hawks in questo momento se non avessi incrociato la strada con il dottor Rhue", ha detto Hawks. + Esplora ulteriormente

La tecnologia di lettura delle emozioni non supera il test del pregiudizio razziale

Sole di Baltimora 2022.
Distribuito da Tribune Content Agency, LLC.