Gli strumenti di raccomandazione dell'intelligenza artificiale (AI) sono ampiamente utilizzati da settori come l'e-commerce, i media, le banche e le utility. L'algoritmo dello strumento utilizza l'attività online passata dei visitatori del sito Web e altri dati, sia impliciti che espliciti, per prevedere ciò che il visitatore vorrebbe visualizzare o acquistare in seguito, quindi presenta loro tali opzioni. Questo può essere molto vantaggioso; ad esempio, per i clienti, il suggeritore può far risparmiare loro tempo suggerendo opzioni su misura per i loro gusti e le loro esigenze. Mentre, per le aziende, può incoraggiare i consumatori a spendere di più tramite il proprio sito Web e aumentare la fedeltà dei clienti:nel caso del gigante dello streaming Netflix, si stima che il suo motore di raccomandazione generi 1 miliardo di dollari all'anno.

Un gruppo di ricercatori provenienti da Cina, Finlandia e Corea ha deciso di scoprire i potenziali effetti negativi di questi strumenti di intelligenza artificiale. Come spiega il coautore Sihua Chen, dell'Università cinese di finanza ed economia del Jiangxi, "ogni moneta ha due facce e, con la penetrazione dei consiglieri di intelligenza artificiale nelle nostre vite, gli aspetti negativi stanno diventando più evidenti". La ricerca è stata pubblicata per la prima volta online il 10 agosto 2021 nel Journal of Management Science and Engineering , e la pubblicazione è prevista per dicembre 2021.

Dopo aver esaminato le ricerche precedenti sull'argomento, il team ha costruito un modello empirico, che rivela in che modo le preferenze di un cliente influenzano le sue decisioni di acquisto e il ruolo che la raccomandazione dell'IA gioca in tale processo. Erano particolarmente interessati all'esplorazione del fenomeno del "bozzolo di informazioni" di Internet:quando si trova di fronte a un grande volume di informazioni online, le persone tendono a vedere solo ciò che vogliono vedere.

I ricercatori hanno condotto due esperimenti utilizzando Jingdong e Taobao, le due più grandi piattaforme di shopping online in Cina. Secondo l'autore Jian Mou, della Pusan ​​National University della Corea, "hanno scoperto che la raccomandazione dell'IA ha aumentato l'effetto cocoon delle informazioni. In altre parole, le persone vedono ciò che vogliono vedere e quindi l'algoritmo di raccomandazione dell'IA del sito Web seleziona i contenuti per loro in base a quelli preferenze. Ciò incide negativamente sulla qualità delle decisioni di acquisto del cliente."

Il coautore Mikko Siponen, dell'Università finlandese di Jyvaskyla, aggiunge che "come per molte altre nuove tecnologie, la raccomandazione dell'IA è una fonte di conseguenze indesiderate. I nostri risultati hanno importanti implicazioni per i consumatori, in particolare nel settore dell'e-commerce, se lo desiderano per prendere decisioni di acquisto indipendenti, devono evitare l'influenza schiacciante degli strumenti di raccomandazione dell'IA".