I sistemi di intelligenza artificiale e gli algoritmi di apprendimento automatico sono stati recentemente presi di mira perché possono raccogliere e rafforzare i pregiudizi esistenti nella nostra società, a seconda dei dati con cui sono programmati.

Ma un gruppo interdisciplinare di studiosi di Stanford ha capovolto questo problema in un nuovo modo Atti dell'Accademia Nazionale delle Scienze articolo pubblicato il 3 aprile

I ricercatori hanno utilizzato l'incorporamento di parole, una tecnica algoritmica in grado di mappare le relazioni e le associazioni tra le parole, per misurare i cambiamenti negli stereotipi di genere ed etnici nel secolo scorso negli Stati Uniti. Hanno analizzato grandi database di libri americani, giornali e altri testi e ha osservato come questi cambiamenti linguistici fossero correlati ai dati demografici effettivi del censimento degli Stati Uniti e ai principali cambiamenti sociali come il movimento delle donne negli anni '60 e l'aumento dell'immigrazione asiatica, secondo la ricerca.

"Le parole incorporate possono essere utilizzate come un microscopio per studiare i cambiamenti storici negli stereotipi nella nostra società, " ha detto James Zou, un assistente professore di scienza dei dati biomedici. "La nostra ricerca precedente ha dimostrato che gli incorporamenti catturano efficacemente gli stereotipi esistenti e che tali pregiudizi possono essere rimossi sistematicamente. Ma pensiamo che, invece di rimuovere quegli stereotipi, possiamo anche usare gli embedding come lente storica per l'analisi quantitativa, analisi linguistiche e sociologiche dei pregiudizi”.

Zou è co-autore del documento con la professoressa di storia Londa Schiebinger, il professore di linguistica e informatica Dan Jurafsky e lo studente laureato in ingegneria elettrica Nikhil Garg, chi era l'autore principale.

"Questo tipo di ricerca ci apre tutti i tipi di porte, "Ha detto Schiebinger. "Fornisce un nuovo livello di prove che consente agli studiosi di scienze umane di interrogarsi sull'evoluzione di stereotipi e pregiudizi su una scala che non è mai stata fatta prima".

La geometria delle parole

Un word embedding è un algoritmo che viene utilizzato, o addestrato, su una raccolta di testi. L'algoritmo assegna quindi un vettore geometrico a ogni parola, rappresentare ogni parola come un punto nello spazio. La tecnica utilizza la posizione in questo spazio per catturare le associazioni tra le parole nel testo di partenza.

"Gli incorporamenti sono un potente strumento linguistico per misurare gli aspetti sottili del significato delle parole, come pregiudizi, " ha detto Jurafsky.

Prendi la parola "onorevole". Utilizzando lo strumento di incorporamento, ricerche precedenti hanno scoperto che l'aggettivo ha una relazione più stretta con la parola "uomo" rispetto alla parola "donna".

Nella sua nuova ricerca, il team di Stanford ha utilizzato gli embedding per identificare occupazioni e aggettivi specifici che erano prevenuti verso le donne e particolari gruppi etnici per decennio dal 1900 ad oggi. I ricercatori hanno addestrato tali incorporamenti su database di giornali e hanno anche utilizzato incorporamenti precedentemente formati dallo studente laureato in informatica di Stanford Will Hamilton su altri set di dati di testo di grandi dimensioni, come il corpus di libri americani di Google Books, che contiene oltre 130 miliardi di parole pubblicate durante il XX e il XXI secolo.

I ricercatori hanno confrontato i pregiudizi riscontrati da tali incorporamenti con i cambiamenti demografici nei dati del censimento degli Stati Uniti tra il 1900 e il presente.

Cambiamenti negli stereotipi

I risultati della ricerca hanno mostrato cambiamenti quantificabili nelle rappresentazioni di genere e nei pregiudizi nei confronti degli asiatici e di altri gruppi etnici durante il XX secolo.

Uno dei risultati chiave che è emerso è stato il modo in cui i pregiudizi nei confronti delle donne sono cambiati in meglio – in qualche modo – nel tempo.

Per esempio, aggettivi come "intelligente, " "logico" e "premuroso" erano più associati agli uomini nella prima metà del XX secolo. Ma dagli anni '60, le stesse parole sono state sempre più associate alle donne ogni decennio successivo, in correlazione con il movimento delle donne negli anni '60, anche se rimane ancora un vuoto.

La ricerca ha anche mostrato un drammatico cambiamento negli stereotipi verso gli asiatici e gli americani asiatici.

Per esempio, negli anni '10, parole come "barbaro, " "mostruoso" e "crudele" erano gli aggettivi più associati ai cognomi asiatici. Negli anni '90, quegli aggettivi sono stati sostituiti da parole come "inibito, " "passivo" e "sensibile". Questo cambiamento linguistico è correlato con un forte aumento dell'immigrazione asiatica negli Stati Uniti negli anni '60 e '80 e un cambiamento negli stereotipi culturali, hanno detto i ricercatori.

"Mi ha colpito la durezza del cambiamento degli stereotipi, " Garg ha detto. "Quando studi storia, impari a conoscere le campagne di propaganda e queste visioni obsolete dei gruppi stranieri. Ma quanto la letteratura prodotta all'epoca riflettesse quegli stereotipi era difficile da apprezzare".

Globale, i ricercatori hanno dimostrato che i cambiamenti nelle parole embedding sono stati seguiti da vicino con i cambiamenti demografici misurati dal censimento degli Stati Uniti.

Collaborazione fruttuosa

La nuova ricerca illumina il valore del lavoro di squadra interdisciplinare tra discipline umanistiche e scienze, ricercatori hanno detto.

Schiebinger ha detto di aver contattato Zou, che si è unito a Stanford nel 2016, dopo aver letto il suo precedente lavoro sugli algoritmi di machine learning de-biasing.

"Ciò ha portato ad una collaborazione molto interessante e fruttuosa, "Schiebinger ha detto, aggiungendo che i membri del gruppo stanno lavorando insieme su ulteriori ricerche.

"Sottolinea l'importanza di umanisti e scienziati informatici che lavorano insieme. C'è un potere in questi nuovi metodi di apprendimento automatico nella ricerca umanistica che è appena stato compreso, " lei disse.