I social media possono esporre gli utenti a disinformazione, comprese le notizie false:notizie con informazioni intenzionalmente false. Infatti, durante le elezioni presidenziali americane del 2016, le notizie false hanno coinvolto più persone delle notizie vere, secondo un'analisi di BuzzFeed News.

Attualmente esistono numerosi metodi di deep learning per rilevare notizie false, ma questi metodi non sono in grado di spiegare perché è riconosciuto come tale. Ora, un team di ricercatori di Penn State e Arizona State sta lavorando per aiutare a spiegare perché qualsiasi notizia falsa viene rilevata come falsa.

Le recenti scoperte del team saranno presentate al Knowledge Discovery and Data Mining (KDD) dell'Association for Computing Machinery (ACM), una conferenza di punta sul data mining, tenutasi dal 4 all'8 agosto ad Anchorage, dell'Alaska.

"Il rilevamento è una cosa, ma come presentarlo all'utente per spiegare perché è falso è più impegnativo, " ha detto Dongwon Lee, professore associato al Penn State College of Information Sciences and Technology e ricercatore del progetto. "Se non forniamo una buona spiegazione, ha un impatto limitato per limitare la distribuzione di disinformazione perché le persone non la accetteranno".

Nel loro studio, i ricercatori hanno costruito un framework di rilevamento delle fake news spiegabile, che chiamano DEFEND (rilevamento di notizie false spiegabili). Il framework è costituito da tre componenti:(1) un codificatore di contenuti di notizie, rilevare stili linguistici supponenti e sensazionali che si trovano comunemente nelle notizie false; (2) un codificatore di commenti dell'utente, rilevare attività come opinioni scettiche e reazioni sensazionali nei commenti alle notizie; e (3) un commento alla frase, componente di co-attenzione, che rileva frasi nelle notizie e commenti degli utenti che possono spiegare perché una notizia è falsa.

Il nuovo algoritmo di rilevamento progettato e sviluppato in questo nuovo approccio ha superato sette altri metodi all'avanguardia nel rilevamento di notizie false, secondo i ricercatori.

"Tra i commenti degli utenti, possiamo individuare la spiegazione più efficace del motivo per cui questa [notizia che stanno leggendo] è una notizia falsa, " ha spiegato Lee. "Alcuni utenti hanno espresso malcontento ma altri forniscono prove particolari, come il collegamento a un sito Web di verifica dei fatti o a un articolo di notizie autentico. Queste tecniche possono contemporaneamente trovare tali prove e presentarle all'utente come potenziale spiegazione".

Ha aggiunto, "La democrazia [negli Stati Uniti] come la conosciamo si basa sulla premessa di condividere liberamente le proprie idee e opinioni. Se non possiamo fidarci di ciò che è stato detto nei media, e inizia a sospettare che possa essere falso, potrebbe minare un intero ecosistema di democrazia. Come tale, questa ricerca ha un impatto sociale importante ed enorme".

I ricercatori stanno lavorando a un prototipo del sistema, che sperano di condividere alla fine del 2019, in modo che altri possano utilizzare lo strumento per rilevare notizie false e comprenderle meglio.

"Il rilevamento tempestivo di notizie false è un'altra questione importante, " ha detto Suhang Wang, professore assistente nel Collegio di IST e collaboratore al progetto. "Quando escono notizie [false], in poche ore, vogliamo rilevarlo. Una volta che le notizie false si diffondono, il danno è già stato fatto. È importante rilevarlo e ridurlo il prima possibile".