Con la correzione automatica e le risposte e-mail generate automaticamente, gli algoritmi offrono molta assistenza per aiutare le persone a esprimersi.

Ma una nuova ricerca dell'Università della Georgia mostra che le persone che si affidano ad algoritmi informatici per l'assistenza con compiti creativi legati alla lingua non hanno migliorato le loro prestazioni ed erano più propensi a fidarsi di consigli di bassa qualità.

Aaron Schecter, assistente professore in sistemi informativi gestionali presso il Terry College of Business, ha pubblicato questo mese il suo studio "Preferenze umane verso il consiglio algoritmico in un compito di associazione di parole" in Rapporti scientifici . I suoi coautori sono Nina Lauharatanahirun, assistente professore di salute biocomportamentale presso la Pennsylvania State University, e il recente dottorato di ricerca del Terry College. Eric Bogert, laureato e attuale professore assistente della Northeastern University.

Il documento è il secondo dell'indagine del team sulla fiducia individuale nei consigli generati dagli algoritmi. In un documento dell'aprile 2021, il team ha scoperto che le persone facevano più affidamento sui consigli algoritmici nel conteggio delle attività che sui consigli presumibilmente forniti da altri partecipanti.

Questo studio mirava a verificare se le persone si sono soffermate al consiglio di un computer quando affrontano compiti più creativi e dipendenti dalla lingua. Il team ha scoperto che i partecipanti avevano il 92,3% di probabilità in più di utilizzare i consigli attribuiti a un algoritmo piuttosto che accettare i consigli attribuiti alle persone.

"Questo compito non richiedeva lo stesso tipo di pensiero (come il compito di conteggio nello studio precedente), ma in realtà abbiamo visto gli stessi pregiudizi", ha detto Schecter. "Avrebbero comunque utilizzato la risposta dell'algoritmo e si sarebbero trovati bene, anche se non li ha aiutati a fare di meglio."

Utilizzo di un algoritmo durante l'associazione delle parole

Per vedere se le persone si affidassero maggiormente ai consigli generati dal computer per le attività relative alla lingua, Schecter e i suoi coautori hanno fornito a 154 partecipanti online porzioni del Remote Associates Test, un test di associazione di parole utilizzato per sei decenni per valutare la creatività di un partecipante.

"Non è pura creatività, ma l'associazione di parole è un tipo di compito fondamentalmente diverso rispetto a fare una proiezione di stock o contare gli oggetti in una foto perché coinvolge la linguistica e la capacità di associare idee diverse", ha detto. "Pensiamo a questo come più soggettivo, anche se c'è una risposta giusta alle domande."

Durante il test, ai partecipanti è stato chiesto di inventare una parola che legasse insieme tre parole di esempio. Se, ad esempio, le parole fossero base, room e bowling, la risposta sarebbe palla.

I partecipanti hanno scelto una parola per rispondere alla domanda e gli è stato offerto un suggerimento attribuito a un algoritmo o un suggerimento attribuito a una persona e autorizzato a modificare le proprie risposte. La preferenza per il consiglio derivato dall'algoritmo era forte nonostante la difficoltà della domanda, il modo in cui il consiglio era formulato o la qualità del consiglio.

I partecipanti che hanno seguito il consiglio dell'algoritmo erano anche due volte più sicuri delle loro risposte rispetto alle persone che hanno utilizzato il consiglio della persona. Nonostante la loro fiducia nelle risposte, avevano il 13% di probabilità in meno di scegliere le risposte corrette rispetto a coloro che utilizzavano i consigli basati sull'uomo.

"Non dirò che il consiglio stava peggiorando le persone, ma il fatto che non abbiano fatto di meglio e si siano comunque sentiti meglio riguardo alle loro risposte illustra il problema", ha detto. "La loro fiducia è aumentata, quindi è probabile che utilizzino consigli algoritmici e si sentano bene, ma non necessariamente avranno ragione.

Dovresti accettare la correzione automatica quando scrivi un'email?

"Se ho una funzione di completamento automatico o correzione automatica sulla mia email in cui credo, potrei non pensare se mi sta migliorando. La userò semplicemente perché mi sento sicuro di farlo."

Schechter e colleghi chiamano questa tendenza ad accettare i consigli generati dal computer senza tenere d'occhio la sua qualità come bias di automazione. Capire come e perché i decisori umani si affidano al software di apprendimento automatico per risolvere i problemi è una parte importante per capire cosa potrebbe andare storto nei luoghi di lavoro moderni e come porvi rimedio.

"Spesso, quando parliamo di se possiamo consentire agli algoritmi di prendere decisioni, avere una persona nel circuito è data come soluzione per prevenire errori o risultati negativi", ha detto Schecter. "Ma questa non può essere la soluzione se le persone hanno maggiori probabilità di non fare riferimento a ciò che consiglia l'algoritmo". + Esplora ulteriormente

Le persone possono fidarsi dei computer più degli esseri umani