I ricercatori ritengono che le recensioni e i commenti generati dall'intelligenza artificiale rappresentino una minaccia significativa per i consumatori, ma l'apprendimento automatico può aiutare a rilevare i falsi.

Siti come TripAdvisor, Yelp e Amazon mostrano le recensioni degli utenti su prodotti e servizi. I consumatori prestano attenzione:nove persone su dieci leggono queste revisioni tra pari e si fidano di ciò che vedono. Infatti, fino al 40% degli utenti decide di effettuare un acquisto basandosi solo su un paio di recensioni, e le ottime recensioni fanno spendere il 30% in più per i loro acquisti.

Eppure non tutte le recensioni sono legittime. Le recensioni false scritte da persone reali sono già comuni sui siti di recensioni, ma è probabile che la quantità di falsi generati dalle macchine aumenti notevolmente.

Secondo il dottorando Mika Juuti alla Aalto University, le recensioni false basate su algoritmi sono oggi facilissime, preciso e veloce da generare. La maggior parte delle volte, le persone non sono in grado di distinguere tra recensioni autentiche e false generate dalla macchina.

"Le aziende che si comportano male possono cercare di aumentare le loro vendite creando artificialmente un'immagine positiva del marchio o generando false recensioni negative su un concorrente. La motivazione è, Certo, soldi:le recensioni online sono un grande business per le destinazioni di viaggio, alberghi, fornitori di servizi e prodotti di consumo, "dice Mika Juuti.

Nel 2017, ricercatori dell'Università di Chicago hanno descritto un metodo per addestrare un modello di apprendimento automatico, una rete neurale profonda, utilizzando un set di dati di tre milioni di valutazioni reali di ristoranti su Yelp. Dopo la formazione, il modello ha generato false recensioni di ristoranti personaggio per personaggio.

C'è stato un piccolo intoppo nel metodo, però; faceva fatica a restare in tema. Per una recensione di un ristorante giapponese a Las Vegas, il modello potrebbe fare riferimento a un ristorante italiano a Baltimora. Questi tipi di errori sono, Certo, facilmente individuabile dai lettori.

Per aiutare il generatore di recensioni a rimanere nel segno, Juuti e il suo team hanno utilizzato una tecnica chiamata traduzione automatica neurale per dare al modello un senso di contesto. Utilizzando una sequenza di testo di "valutazione delle recensioni, nome del ristorante, città, stato, e etichette alimentari, "hanno iniziato a ottenere risultati credibili.

"Nello studio sugli utenti che abbiamo condotto, abbiamo mostrato ai partecipanti recensioni reali scritte da umani e false recensioni generate da macchine e abbiamo chiesto loro di identificare i falsi. Fino al 60 percento delle recensioni false sono state erroneamente ritenute vere, "dice Juuti.

Juuti e i suoi colleghi hanno quindi ideato un classificatore in grado di individuare i falsi. Il classificatore si è rivelato funzionare bene, in particolare nei casi in cui i valutatori umani hanno avuto le maggiori difficoltà nel dire se una recensione è reale o meno.

Lo studio è stato condotto in collaborazione con il gruppo di ricerca Secure Systems della Aalto University e ricercatori della Waseda University in Giappone. È stato presentato al Simposio europeo 2018 sulla ricerca sulla sicurezza informatica a settembre.