Gli ingegneri dell'intelligenza artificiale dovrebbero arruolare idee e competenze da un'ampia gamma di discipline delle scienze sociali, compresi quelli che abbracciano metodi qualitativi, al fine di ridurre il potenziale danno delle loro creazioni e servire meglio la società nel suo insieme, una coppia di ricercatori ha concluso in un'analisi che appare sulla rivista Intelligenza della macchina della natura .

"Ci sono prove crescenti che l'IA può esacerbare la disuguaglianza, perpetuare la discriminazione, e fare del male, "scrivi Mona Sloane, un ricercatore presso l'Institute for Public Knowledge della New York University, ed Emanuele Moss, un dottorando alla City University di New York. "Per ottenere una tecnologia socialmente giusta, dobbiamo includere la nozione più ampia possibile di scienze sociali, uno che include discipline che hanno sviluppato metodi per affrontare la vastità del mondo sociale e che ci aiuta a capire come e perché i danni dell'IA emergono come parte di un grande, complesso, e il sistema tecno-sociale emergente".

Gli autori delineano le ragioni per cui le scienze sociali si avvicinano, e i suoi numerosi metodi qualitativi, può aumentare ampiamente il valore dell'IA evitando anche insidie ​​documentate. Gli studi hanno dimostrato che i motori di ricerca possono discriminare le donne di colore, mentre molti analisti hanno sollevato domande su come le auto a guida autonoma prenderanno decisioni socialmente accettabili in situazioni di incidente (ad es. evitando gli esseri umani piuttosto che gli idranti).

Sloane, anche un membro di facoltà aggiunto presso la Tandon School of Engineering della NYU, e Moss riconoscono che gli ingegneri dell'intelligenza artificiale stanno attualmente cercando di instillare "l'allineamento dei valori" - l'idea che le macchine dovrebbero agire in conformità con i valori umani - nelle loro creazioni, ma aggiungere che "è eccezionalmente difficile definire e codificare qualcosa di così fluido e contestuale come i 'valori umani' in una macchina".

Per ovviare a questa mancanza, gli autori offrono un modello per l'inclusione delle scienze sociali nell'IA attraverso una serie di raccomandazioni:

• La ricerca sociale qualitativa può aiutare a comprendere le categorie attraverso le quali diamo un senso alla vita sociale e che vengono utilizzate nell'IA. "Per esempio, i tecnologi non sono formati per capire come le categorie razziali nell'apprendimento automatico vengono riprodotte come un costrutto sociale che ha effetti nella vita reale sull'organizzazione e sulla stratificazione della società, " osservano Sloane e Moss. "Ma queste domande sono discusse in profondità nelle scienze sociali, che può aiutare a creare lo sfondo storico-sociale rispetto al quale... la storia dell'attribuzione di categorie come "razza" può essere esplicitata".
• Un approccio qualitativo alla raccolta dei dati può stabilire protocolli per aiutare a ridurre i pregiudizi. "I dati riflettono sempre i pregiudizi e gli interessi di coloro che effettuano la raccolta, " notano gli autori. "La ricerca qualitativa è esplicita sulla raccolta dei dati, mentre le pratiche di ricerca quantitativa nell'IA non lo sono."
• La ricerca qualitativa richiede tipicamente ai ricercatori di riflettere su come i loro interventi influenzano il mondo in cui fanno le loro osservazioni. "Un approccio quantitativo non richiede al ricercatore o al progettista di intelligenza artificiale di localizzarsi nel mondo sociale, " scrivono. "Pertanto, non richiede una valutazione di chi è incluso nella decisione vitale di progettazione dell'IA, e chi no".

"Mentre andiamo avanti con la tessitura insieme sociale, culturale, ed elementi tecnologici della nostra vita, dobbiamo integrare diversi tipi di conoscenza nello sviluppo tecnologico, Sloane e Moss concludono. "Un futuro socialmente più giusto e democratico per l'IA nella società non può essere semplicemente calcolato o progettato; deve essere vissuta, narrato, e tratto da profonde comprensioni sulla società."