Facebook ha reso disponibili per la prima volta dati sull'entità dei commenti offensivi pubblicati sul proprio sito. Ciò potrebbe essere stato fatto sotto la crescente pressione delle organizzazioni affinché le società di social media siano più trasparenti sugli abusi online, o per guadagnare credibilità dopo lo scandalo dei dati di Cambridge Analytica. In entrambi i casi, le cifre non rendono piacevole la lettura.

In un semestre da ottobre 2017 a marzo 20178, 21 milioni di immagini sessualmente esplicite, 3,5 milioni di post graficamente violenti e 2,5 milioni di forme di incitamento all'odio sono stati rimossi dal suo sito. Queste cifre aiutano a rivelare alcuni punti sorprendenti.

Come previsto, i dati indicano che il problema sta peggiorando. Ad esempio, tra gennaio e marzo è stato stimato che per ogni 10, 000 messaggi in linea, tra 22 e 27 contenevano violenza grafica, passato da 16 a 19 nei tre mesi precedenti. Ciò mette in netto rilievo il fatto che nel Regno Unito, i procedimenti giudiziari per abuso online sono diminuiti, come mostrato nel grafico sottostante.

Eppure ciò che Facebook non ci ha detto è altrettanto significativo.

Il social network è stato sottoposto a crescenti pressioni per combattere gli abusi sul suo sito, in particolare, la rimozione della propaganda terroristica dopo eventi come l'attacco di Westminster del 2017 e l'attentato alla Manchester Arena. Qui, l'azienda è stata proattiva. Tra gennaio e marzo 2018 Facebook ha rimosso 1,9 milioni di messaggi che incoraggiavano la propaganda terroristica, un aumento di 800, 000 commenti rispetto ai tre mesi precedenti. Un totale del 99,5% di questi messaggi è stato localizzato con l'aiuto della tecnologia avanzata.

A prima vista, sembra che Facebook abbia sviluppato con successo un software in grado di rimuovere questo contenuto dal suo server. Ma Facebook non ha rilasciato dati che mostrino quanto sia diffusa la propaganda terroristica sul suo sito. Quindi non sappiamo davvero quanto sia efficace il software in questo senso.

Rimozione di post violenti

Facebook ha anche utilizzato la tecnologia per aiutare la rimozione della violenza grafica dal suo sito. Tra i due trimestri c'è stato un aumento del 183% della quantità di post rimossi etichettati come graficamente violenti. Un totale dell'86% di questi commenti è stato segnalato da un sistema informatico.

Ma sappiamo anche che i dati di Facebook mostrano anche che fino a 27 su 10, 000 commenti che hanno superato la tecnologia di rilevamento contenevano violenza grafica. Non sembrano molti, ma vale la pena considerare il numero totale di commenti pubblicati sul sito dai suoi oltre 2 miliardi di utenti attivi. Una stima suggerisce che 510, Ogni minuto vengono pubblicati 000 commenti. Se accurato, ciò significherebbe 1, 982, Ogni 24 ore vengono pubblicati 880 commenti violenti.

Per compensare i guasti nel suo software di rilevamento, Facebook, come altri social network, si affida da anni all'autoregolamentazione, con gli utenti incoraggiati a segnalare commenti che ritengono non dovrebbero essere presenti sul sito. Per esempio, tra gennaio e marzo 2018, Facebook ha rimosso 2,5 milioni di commenti considerati incitamento all'odio, eppure solo 950, 000 (38%) di questi messaggi erano stati segnalati dal suo sistema. Il restante 62% è stato segnalato dagli utenti. Ciò dimostra che la tecnologia di Facebook non riesce a combattere adeguatamente l'incitamento all'odio sulla sua rete, nonostante la crescente preoccupazione che i siti di social network stiano alimentando i crimini d'odio nel mondo reale.

Quanti commenti vengono segnalati?

Questo ci porta all'altro dato significativo non incluso nei dati diffusi da Facebook:il numero totale di commenti segnalati dagli utenti. Poiché si tratta di un meccanismo fondamentale per contrastare gli abusi online, la quantità di segnalazioni presentate alla società dovrebbe essere resa disponibile al pubblico. Questo ci consentirà di comprendere l'intera portata dei commenti offensivi fatti online, mentre chiarisce il numero totale di messaggi che Facebook non rimuove dal sito.

La decisione di Facebook di rilasciare dati che espongono la portata degli abusi sul suo sito è un significativo passo avanti. Twitter, al contrario, sono state chieste informazioni simili ma si è rifiutato di rilasciarle, affermare che sarebbe fuorviante. Chiaramente, non tutti i commenti segnalati dagli utenti dei siti di social network violano i suoi termini e condizioni. Ma l'incapacità di Twitter di rilasciare queste informazioni suggerisce che la società non è disposta a rivelare la portata degli abusi sul proprio sito.

Però, anche Facebook ha ancora molta strada da fare per arrivare alla totale trasparenza. Idealmente, tutti i siti di social network pubblicheranno rapporti annuali su come stanno affrontando gli abusi online. Ciò consentirebbe alle autorità di regolamentazione e al pubblico di ritenere le aziende più direttamente responsabili della mancata rimozione degli abusi online dai loro server.

Questo articolo è stato originariamente pubblicato su The Conversation. Leggi l'articolo originale.