Su Reddit, che vanta 430 milioni di utenti mensili, un articolo di notizie affidabile sulla California che appiattisce la curva del coronavirus è stato il 77° nei post consigliati del giorno. Nel frattempo, "Giochi di bevute socialmente distanti" era un thread di prim'ordine.

"Durante la pandemia, quando abbiamo poco tempo, ci sono molte informazioni contrastanti e in competizione, e quando riceviamo suggerimenti dalle macchine che dicono "Ecco le tre cose principali da leggere, " probabilmente è quello che leggeremo, " ha detto J. Nathan Matias, assistente professore di comunicazione presso il College of Agriculture and Life Sciences. "E quindi prestando attenzione a ciò che questi algoritmi stanno promuovendo, e la qualità di tali informazioni, è incredibilmente importante".

Dal 2016, Matias ha tracciato gli algoritmi su Reddit, una vasta rete di forum in cui le persone condividono contenuti e notizie, e che afferma di avere più utenti di Twitter. Con l'esplosione della pandemia di coronavirus, Matias ha iniziato a utilizzare lo strumento, chiamato COVID-19 Algo-Tracker, per monitorare i post e i thread relativi ai virus di Reddit, sia per informare le persone sui meccanismi alla base delle informazioni che stanno ricevendo, sia per creare un ampio, set di dati pubblicamente disponibili per ricerche future.

"Il tracker dell'algoritmo è stato il nostro tentativo di prendere ciò che già abbiamo e creare una risorsa di informazione pubblica su quali tipi di informazioni sulla pandemia sono state promosse da questi algoritmi potenti e influenti che raggiungono centinaia di milioni di persone, " disse Matias.

Sviluppato dal suo Citizens and Technology Lab, l'Algo-Tracker scatta istantanee ogni due minuti di due degli algoritmi chiave di Reddit, inclusa la sua classifica di popolarità predefinita. La dashboard di Algo-Tracker, aggiornata ogni sei ore, esamina i post che compaiono tra i primi 100 consigli per entrambi gli algoritmi. I post sono considerati correlati al coronavirus se includono una qualsiasi delle 35 parole o frasi, un elenco periodicamente aggiornato che attualmente include "autoisolamento, " "disinfettante, " "Fauci, " "appiattisci la curva, " "clorochina" e "immunità di gregge".

Esempi di post recenti promossi dall'algoritmo sono "Liberty University sporge denuncia contro i giornalisti che hanno coperto l'apertura del campus durante l'epidemia" e "Un artista di effetti speciali si è fatto una maschera per il coronavirus e non riesco a superarlo".

In molti casi, Matias ha detto, l'algoritmo ha promosso contenuti scientifici accurati, e alcuni utenti di Reddit si sono organizzati per cercare di fornire informazioni affidabili. Una nuova comunità di coronavirus, creato dagli utenti appositamente per curare le informazioni sulla pandemia, ha avuto successo nel far promuovere i suoi post dagli algoritmi di Reddit.

Ma i moderatori umani si trovano anche sopraffatti e sovraccarichi dal volume dei contenuti, sia affidabili che discutibili.

"Il rischio è che mentre le persone conversano, mentre cercano di far fronte a questo incredibile momento di stress e interruzione, le comunità possono trovarsi spinte a moderare e supportare conversazioni affidabili e accurate sui rischi per la salute pubblica e su ciò che le persone possono fare al riguardo, " Matias ha detto. "Penso che molte comunità si stiano trovando sopraffatte da un argomento che non si aspettavano di moderare e contenere".

Gli algoritmi di diverse aziende funzionano in modo diverso e alcune grandi società di social media hanno affermato di aver modificato i propri algoritmi per dare priorità alle informazioni provenienti dai Centers for Disease Control and Prevention e da altre fonti affidabili. Ma in generale capire come gli algoritmi funzionano e ci influenzano ha importanti implicazioni per la salute pubblica, ha detto Mattia.

"Senti un pettegolezzo online—ti viene promosso da un algoritmo di social media—e poi vai su Google per scoprire se è vero. E la prima cosa che vedi su Google è stata scelta da un algoritmo, " ha detto. "I nostri social network stanno plasmando ciò di cui le persone sono consapevoli durante la pandemia, e siamo al centro di molto di ciò che sappiamo e crediamo e di come ci comportiamo."