La travolgente "bianchezza" dell'intelligenza artificiale, dalle immagini stock e robot cinematografici ai dialetti degli assistenti virtuali, rimuove le persone di colore dal modo in cui l'umanità pensa al suo futuro potenziato dalla tecnologia.

Lo affermano gli esperti dell'Università di Cambridge, che suggeriscono che le rappresentazioni e gli stereotipi attuali sull'IA rischiano di creare una forza lavoro "razzialmente omogenea" di aspiranti tecnologi, costruire macchine con pregiudizi incorporati nei loro algoritmi.

Sostengono che le rappresentazioni culturali dell'IA come bianca devono essere messe in discussione, in quanto non offrono un futuro "post-razziale", ma piuttosto uno dal quale le persone di colore vengono semplicemente cancellate.

I ricercatori, dal Leverhulme Center for the Future of Intelligence (CFI) di Cambridge, dire che AI, come altri tropi di fantascienza, ha sempre rispecchiato il pensiero razziale nella nostra società.

Sostengono che esiste una lunga tradizione di rozzi stereotipi razziali quando si tratta di extraterrestri, dall'alieno "orientalizzato" di Ming lo spietato alla caricatura caraibica di Jar Jar Binks.

Ma l'intelligenza artificiale è descritta come bianca perché, a differenza delle specie di altri pianeti, L'intelligenza artificiale ha attributi usati per "giustificare il colonialismo e la segregazione" in passato:intelligenza superiore, professionalità e potere.

"Dato che la società ha, per secoli, promosso l'associazione dell'intelligence con i bianchi europei, c'è da aspettarsi che quando a questa cultura viene chiesto di immaginare una macchina intelligente, immagini una macchina bianca, " ha detto il dottor Kanta Dihal, che guida l'iniziativa "Decolonizzare l'IA" di CFI.

"Le persone si fidano dell'intelligenza artificiale per prendere decisioni. Le rappresentazioni culturali promuovono l'idea che l'intelligenza artificiale sia meno fallibile degli umani. Nei casi in cui questi sistemi sono razzializzati come bianchi, ciò potrebbe avere conseguenze pericolose per gli esseri umani che non lo sono, " lei disse.

Insieme al suo collega Dr. Stephen Cave, Dihal è l'autore di un nuovo articolo sul caso della decolonizzazione dell'IA, pubblicato oggi sulla rivista Filosofia e Tecnologia .

Il documento riunisce ricerche recenti provenienti da una serie di campi, tra cui l'interazione uomo-macchina e la teoria della razza critica, per dimostrare che le macchine possono essere razzializzate, e che questo perpetua i pregiudizi razziali del "mondo reale".

Ciò include il lavoro su come si vede che i robot hanno identità razziali distinte, con i robot neri che ricevono più abusi online, e uno studio che mostra che le persone si sentono più vicine agli agenti virtuali quando percepiscono un'identità razziale condivisa.

"Una delle interazioni più comuni con la tecnologia AI è attraverso assistenti virtuali in dispositivi come smartphone, che parlano in inglese bianco borghese standard, " ha detto Dihal. "Le idee sull'aggiunta di dialetti neri sono state respinte come troppo controverse o al di fuori del mercato di riferimento".

I ricercatori hanno condotto la propria indagine sui motori di ricerca, e ha scoperto che tutti i risultati non astratti per l'IA avevano caratteristiche caucasiche o erano letteralmente il colore bianco.

Un tipico esempio di immagini dell'intelligenza artificiale che adornano le copertine dei libri e gli articoli dei media mainstream è Sophia:l'umanoide ipercaucasico dichiarato "campione dell'innovazione" dal programma di sviluppo delle Nazioni Unite. Ma questa è solo una recente iterazione dicono i ricercatori.

"Le immagini stock per l'intelligenza artificiale distillano le visualizzazioni delle macchine intelligenti nella cultura popolare occidentale così come si sono sviluppate nel corso di decenni, " disse Cave, Direttore Esecutivo del CFI.

"Da Terminator a Blade Runner, Metropolis a Ex Machina, tutti sono interpretati da attori Bianchi o sono visibilmente Bianchi sullo schermo. Gli androidi di metallo o plastica hanno caratteristiche bianche, come in io, Robot. Anche l'IA disincarnata, da HAL-9000 a Samantha in Her, ha voci bianche. Solo di recente ci sono alcuni programmi TV, come Westworld, usava personaggi AI con un mix di tonalità della pelle."

Cave e Dihal sottolineano che anche opere chiaramente basate sulla ribellione degli schiavi, come Blade Runner, raffigurano le loro IA come bianche. "L'intelligenza artificiale è spesso descritta come più astuta e superiore all'umanità, " ha detto Dihal. "La cultura bianca non può immaginare di essere conquistata da esseri superiori che assomigliano a razze che storicamente ha definito inferiori".

"Le immagini dell'intelligenza artificiale non sono rappresentazioni generiche di macchine simili all'uomo:la loro bianchezza è un proxy per il loro stato e potenziale, " ha aggiunto Dial.

"Le rappresentazioni dell'IA come White collocano le macchine in una gerarchia di potere al di sopra dei gruppi attualmente emarginati, e relega le persone di colore in posizioni inferiori a quelle delle macchine. Poiché le macchine diventano sempre più centrali per il processo decisionale automatizzato in settori quali l'occupazione e la giustizia penale, questo potrebbe essere altamente consequenziale."

"La bianchezza percepita dell'IA renderà più difficile per le persone di colore avanzare nel campo. Se la demografia degli sviluppatori non si diversifica, L'intelligenza artificiale sta per esacerbare la disuguaglianza razziale, " ha detto Dial.