Il pregiudizio nell'intelligenza artificiale (AI) e nei programmi di apprendimento automatico è ben consolidato. I ricercatori della North Carolina State University e della Pennsylvania State University propongono ora che gli sviluppatori di software incorporino il concetto di "pensiero progettuale femminista" nel loro processo di sviluppo come un modo per migliorare l'equità, in particolare nello sviluppo del software utilizzato nel processo di assunzione.

"Sembrano esserci innumerevoli storie di modi in cui il pregiudizio nell'IA si sta manifestando, e ci sono molti pensieri là fuori su ciò che contribuisce a questo pregiudizio, "dice Fay Payton, un professore di sistemi informatici/tecnologia e borsista universitario presso la NC State. "Il nostro obiettivo qui era quello di presentare linee guida che possono essere utilizzate per sviluppare soluzioni praticabili per il pregiudizio degli algoritmi contro le donne, Professioni afroamericane e latine nella forza lavoro IT.

"Troppi algoritmi di assunzione esistenti incorporano de facto marcatori di identità che escludono i candidati qualificati a causa del loro genere, corsa, etnia, età e così via, "dice Payton, che è co-autore di un articolo sull'opera. "Stiamo semplicemente cercando equità, che i candidati possano partecipare al processo di assunzione su un piano di parità".

Payton e i suoi collaboratori sostengono che un approccio chiamato pensiero progettuale femminista potrebbe fungere da quadro prezioso per lo sviluppo di software che riduca il pregiudizio algoritmico in modo significativo. In tale contesto, l'applicazione del design thinking femminista significherebbe incorporare l'idea di equità nella progettazione dell'algoritmo stesso.

"Ad aggravare gli effetti del pregiudizio algoritmico c'è la sottorappresentazione storica delle donne, Ingegneri del software Black e Latinx per fornire nuove informazioni sugli approcci di progettazione equi basati sulle loro esperienze vissute, "dice Lynette Yarger, co-autore principale dell'articolo e professore associato di scienze e tecnologia dell'informazione alla Penn State.

"Essenzialmente, questo approccio significherebbe sviluppare algoritmi che valorizzino l'inclusione e l'equità tra i sessi, razza ed etnia, " dice Payton. "L'applicazione pratica di questo è lo sviluppo e l'implementazione di un processo per la creazione di algoritmi in cui i designer stanno considerando un pubblico che include donne, che include i neri, che include le persone latine. Essenzialmente, gli sviluppatori di ogni estrazione sarebbero chiamati a considerare attivamente ea valorizzare le persone che sono diverse da loro stesse.

"Per essere chiari, non si tratta solo di fare qualcosa perché è moralmente corretto. Ma sappiamo che le donne, Gli afroamericani e le persone latine sono sottorappresentate nei settori IT. E vi sono ampie prove che un diverso, la forza lavoro inclusiva migliora i profitti di un'azienda, " dice Payton. "Se puoi fare la cosa giusta e migliorare il tuo margine di profitto, perché non dovresti?"