Contenuti online dannosi sul COVID-19, inclusi contenuti razzisti, disinformazione e disinformazione:prospera e si diffonde online aggirando gli sforzi di moderazione delle singole piattaforme di social media, secondo una nuova ricerca pubblicata sulla rivista Rapporti scientifici . Mappando i cluster di odio online su sei principali piattaforme di social media, i ricercatori della George Washington University mostrano come i contenuti dannosi sfruttino i percorsi tra le piattaforme, evidenziando la necessità per le società di social media di ripensare e adeguare le proprie politiche di moderazione dei contenuti.

Guidato da Neil Johnson, un professore di fisica alla GW, il team di ricerca ha cercato di capire come e perché i contenuti dannosi prosperano così bene online nonostante i significativi sforzi di moderazione, e come può essere fermato. Il team ha utilizzato una combinazione di apprendimento automatico e scienza dei dati di rete per indagare su come le comunità di odio online hanno affinato il COVID-19 come arma e hanno utilizzato gli eventi attuali per attirare nuovi seguaci.

"Fino ad ora, rallentare la diffusione di contenuti dannosi online è stato come giocare a colpisci la talpa, perché non esisteva una mappa del multiverso dell'odio online, "Johnson, che è anche ricercatore presso il GW Institute for Data, Democrazia e politica, disse. "Non puoi vincere una battaglia se non hai una mappa del campo di battaglia. Nel nostro studio, abbiamo tracciato una mappa unica nel suo genere di questo campo di battaglia. Sia che tu stia esaminando i tradizionali argomenti di odio, come l'antisemitismo o il razzismo anti-asiatico che circondano il COVID-19, la mappa del campo di battaglia è la stessa. Ed è questa mappa dei collegamenti all'interno e tra le piattaforme che è il pezzo mancante per capire come possiamo rallentare o fermare la diffusione dei contenuti di odio online".

I ricercatori hanno iniziato mappando il modo in cui i cluster di odio si interconnettono per diffondere le loro narrazioni su piattaforme di social media. Concentrandosi su sei piattaforme:Facebook, VKontakte, Instagram, Gab, Telegram e 4Chan:il team ha iniziato con un dato cluster di odio e ha guardato verso l'esterno per trovare un secondo cluster che fosse fortemente connesso all'originale. Hanno scoperto che le connessioni più forti erano VKontakte in Telegram (40,83% delle connessioni multipiattaforma), Telegram in 4Chan (11,09%), e Gab in 4Chan (10,90%).

I ricercatori hanno quindi rivolto la loro attenzione all'identificazione di contenuti dannosi relativi a COVID-19. Hanno scoperto che la coerenza della discussione sul COVID-19 è aumentata rapidamente nelle prime fasi della pandemia, con gruppi di odio che formano narrazioni e sono coerenti su argomenti COVID-19 e disinformazione. Per sovvertire gli sforzi di moderazione da parte delle piattaforme di social media, i gruppi che inviavano messaggi di odio hanno utilizzato diverse strategie di adattamento per raggrupparsi su altre piattaforme e/o rientrare in una piattaforma, i ricercatori hanno scoperto. Per esempio, i cluster cambiano spesso i loro nomi per evitare il rilevamento da parte degli algoritmi dei moderatori, come il vaccino per va$$ine. Allo stesso modo, I cluster antisemiti e anti-LGBTQ aggiungono semplicemente stringhe di 1 o A prima del loro nome.

"Poiché il numero di piattaforme di social media indipendenti è in crescita, è molto probabile che questi cluster generatori di odio rafforzino ed espandano le loro interconnessioni tramite nuovi collegamenti, e probabilmente sfrutteranno nuove piattaforme che si trovano al di fuori della portata delle giurisdizioni degli Stati Uniti e di altre nazioni occidentali". Johnson ha affermato. "Le possibilità di far lavorare insieme tutte le piattaforme di social media a livello globale per risolvere questo problema sono molto scarse. Però, la nostra analisi matematica identifica le strategie che le piattaforme possono utilizzare come gruppo per rallentare o bloccare efficacemente i contenuti di odio online".

Sulla base delle loro scoperte, il team suggerisce diversi modi per le piattaforme di social media di rallentare la diffusione di contenuti dannosi:

• Allungare artificialmente i percorsi che i contenuti dannosi devono seguire tra i cluster, aumentando le possibilità di rilevamento da parte dei moderatori e ritardando la diffusione di materiale sensibile al fattore tempo come la disinformazione armata di COVID-19 e i contenuti violenti.
• Controlla la dimensione della base di supporto di un cluster di odio online ponendo un limite alla dimensione dei cluster.
• Introdurre non dannoso, contenuti mainstream al fine di diluire efficacemente il focus di un cluster.

"Il nostro studio dimostra una somiglianza tra la diffusione dell'odio online e la diffusione di un virus, "Yonatan Lupu, professore associato di scienze politiche alla GW e coautore del documento, disse. "Le singole piattaforme di social media hanno avuto difficoltà a controllare la diffusione dell'odio online, che rispecchia la difficoltà che i singoli paesi in tutto il mondo hanno avuto nel fermare la diffusione del virus COVID-19".

Andando avanti, Johnson e il suo team stanno già usando la loro mappa e i suoi modelli matematici per analizzare altre forme di contenuti dannosi, inclusa l'armamento dei vaccini COVID-19 in cui alcuni paesi stanno tentando di manipolare il sentimento tradizionale per guadagni nazionalistici. Stanno anche esaminando la misura in cui i singoli attori, compresi i governi stranieri, possono svolgere un ruolo più influente o di controllo in questo spazio rispetto ad altri.