L'uso dell'intelligenza artificiale (AI), tecnologie in grado di interagire con l'ambiente e simulare l'intelligenza umana, ha il potenziale per cambiare significativamente il nostro modo di lavorare. Integrare con successo l'IA nelle organizzazioni dipende dal livello di fiducia dei lavoratori nella tecnologia. Una nuova revisione ha esaminato due decenni di ricerca su come le persone sviluppano fiducia nell'IA. Gli autori hanno concluso che il modo in cui l'IA è rappresentata, o "incarnato, " e le capacità dell'IA contribuiscono a sviluppare la fiducia. Hanno anche proposto un quadro che affronta gli elementi che modellano la fiducia cognitiva ed emotiva degli utenti nell'IA, che può aiutare le organizzazioni che lo utilizzano.

La recensione, dai ricercatori della Carnegie Mellon University e della Bar Ilan University, appare in Annali dell'Accademia di Management .

"La fiducia che gli utenti sviluppano nell'IA sarà fondamentale per determinarne il ruolo nelle organizzazioni, " spiega Anita Williams Woolley, Professore Associato di Teoria e Comportamento Organizzativo presso la Tepper School of Business della Carnegie Mellon University, chi è coautore dello studio. "Abbiamo affrontato la natura dinamica della fiducia esplorando come si sviluppa la fiducia per le persone che interagiscono con diverse rappresentazioni dell'IA (ad es. robot, agenti virtuali, o incorporato) nonché le caratteristiche dell'IA che facilitano lo sviluppo della fiducia".

Nello specifico, i ricercatori hanno osservato il ruolo della tangibilità (la capacità di essere percepiti o toccati), trasparenza (il livello a cui le regole di funzionamento e la logica della tecnologia sono evidenti agli utenti), e affidabilità (se la tecnologia mostra lo stesso comportamento previsto nel tempo). Hanno anche considerato le caratteristiche del compito (come vengono gestiti i giudizi tecnici rispetto a quelli interpersonali) e i comportamenti di immediatezza (gesti socialmente orientati intesi ad aumentare la vicinanza interpersonale, come l'ascolto attivo e la reattività). Hanno anche esaminato l'antropomorfismo (la percezione che la tecnologia possa avere qualità umane).

Gli autori hanno cercato su Google Scholar articoli sulla fiducia umana nell'IA pubblicati tra il 1999 e il 2019, identificando circa 200 articoli peer-reviewed e atti di convegni. I campi rappresentati includevano il comportamento organizzativo, interazioni uomo-computer, interazioni robot-uomo, sistemi di informazione, tecnologie dell'informazione, e ingegneria. Hanno anche usato tre database per identificare altri 50 articoli. Alla fine, hanno esaminato circa 150 articoli che presentavano la ricerca empirica sulla fiducia umana nell'IA.

Gli autori hanno scoperto che la rappresentazione dell'IA ha giocato un ruolo importante nella natura della fiducia cognitiva che le persone sviluppano. Per l'intelligenza artificiale robotica, la traiettoria per lo sviluppo della fiducia assomigliava a quella della creazione di fiducia nelle relazioni umane, iniziando basso e aumentando dopo più esperienza. Ma per l'IA virtuale e incorporata, si è verificato il contrario:l'elevata fiducia iniziale è diminuita in seguito all'esperienza.

Gli autori hanno anche scoperto che il livello di intelligenza artificiale che caratterizza l'IA può moderare lo sviluppo della fiducia cognitiva, con un alto livello di intelligenza che porta a una maggiore fiducia dopo l'uso e l'esperienza. Per l'intelligenza artificiale robotica, un alto livello di intelligenza della macchina generalmente ha portato a uno sviluppo più rapido di un alto livello di fiducia. Per l'intelligenza artificiale virtuale e integrata, l'elevata intelligenza della macchina offriva la possibilità di mantenere gli alti livelli di fiducia iniziali. La trasparenza è stato anche un fattore importante per stabilire la fiducia cognitiva nell'IA virtuale e integrata, sebbene la relazione tra affidabilità e sviluppo della fiducia nell'IA fosse complessa.

L'antropomorfismo era particolarmente importante per lo sviluppo della fiducia emotiva, ma il suo effetto differiva a seconda della forma dell'IA. Per l'intelligenza artificiale virtuale, l'antropomorfismo ha avuto un effetto positivo. Per l'intelligenza artificiale robotica, gli effetti erano contrastanti:le persone tendevano ad apprezzare i robot antropomorfi più dei robot dall'aspetto meccanico, ma questi robot simili a umani potrebbero anche evocare disagio e un senso di inquietudine.

I fattori che hanno influenzato la fiducia emotiva differivano da quelli che hanno influenzato la fiducia cognitiva, e alcuni fattori potrebbero aver avuto implicazioni diverse per ciascuno, hanno concluso gli autori.

Come guida per l'integrazione dell'IA nel lavoro delle organizzazioni, gli autori hanno proposto un quadro. Hanno considerato la forma in cui è stata utilizzata l'intelligenza artificiale, il livello di intelligenza della macchina, comportamenti come la reattività, e affidabilità come fattori che hanno influenzato il modo in cui le persone hanno sviluppato la fiducia nell'IA, sia cognitivamente che emotivamente.

"La fiducia può prevedere il livello di dipendenza dalla tecnologia, mentre il livello di corrispondenza tra la fiducia di qualcuno e le capacità della tecnologia, noto come calibrazione, può influenzare il modo in cui viene utilizzata la tecnologia, "dice Ella Glikson, Assistant Professor presso la Graduate School of Business Administration presso la Bar Ilan University, chi è coautore dello studio.