Quando si è sparsa la voce che il massacro in Nuova Zelanda è stato trasmesso in streaming su Facebook, Ho subito pensato a Robert Godwin Sr. Nel 2017, Godwin è stato assassinato a Cleveland, Ohio, e i primi rapporti indicavano che l'attaccante lo aveva trasmesso in streaming su Facebook Live, all'epoca una caratteristica relativamente nuova del social network. Facebook ha poi chiarito che il video grafico è stato caricato dopo l'evento, ma l'incidente ha richiamato l'attenzione dell'opinione pubblica sui rischi della violenza in streaming.

Sulla scia dell'omicidio di Godwin, Ho consigliato di ritardare le trasmissioni di Facebook Live, almeno per gli utenti di Facebook che avevano detto all'azienda di avere meno di 18 anni. In questo modo, gli utenti adulti avrebbero l'opportunità di segnalare i contenuti inappropriati prima che i bambini ne fossero esposti. Facebook Live ha trasmesso omicidi, così come altri reati gravi come violenza sessuale, tortura e abusi sui minori. Sebbene l'azienda abbia assunto più di 3, 000 ulteriori moderatori di contenuti umani, Facebook non è migliore nel mantenere la violenza orribile dallo streaming live online senza alcun filtro o avviso per gli utenti.

Nelle 24 ore successive al massacro della Nuova Zelanda, 1,5 milioni di video e immagini degli omicidi sono stati caricati sui server di Facebook, ha annunciato la società. Facebook ha evidenziato il fatto che 1,2 milioni di loro "sono stati bloccati durante il caricamento". Però, come ricercatore ed educatore sui social media, L'ho sentito come un'ammissione che 300, 000 video e immagini di un omicidio di massa sono passati attraverso i suoi sistemi automatizzati ed erano visibili sulla piattaforma.

La società ha recentemente rilasciato alcuni dettagli analitici e ha notato che meno di 200 persone hanno visto il livestream del massacro, e che sorprendentemente, nessun utente lo ha segnalato a Facebook fino a quando non è terminato. Questi dettagli rendono dolorosamente chiaro quanto Facebook dipenda dagli utenti per segnalare contenuti dannosi. Suggeriscono inoltre che le persone non sappiano come segnalare contenuti inappropriati o non abbiano fiducia che l'azienda agirà in base al reclamo.

Il video che è rimasto dopo la fine del live streaming è stato visto quasi 4, 000 volte – che non include le copie del video caricate su altri siti e su Facebook da altri utenti. Non è chiaro quante delle persone che lo hanno visto fossero minorenni; i giovani di appena 13 anni possono creare account Facebook e potrebbero essersi imbattuti in filmati non filtrati di odio omicida. È giunto il momento per l'azienda di intensificare e mantenere la promessa del suo fondatore e CEO, Mark Zuckerberg, fatto due anni fa, dopo l'omicidio di Godwin:"Continueremo a fare tutto il possibile per evitare che accadano tragedie come questa".

Un semplice ritardo

Nel settore televisivo, brevi ritardi di pochi secondi sono tipici durante le trasmissioni di eventi live. Quel tempo consente a un moderatore di rivedere il contenuto e confermare che è appropriato per un vasto pubblico.

Facebook si affida agli utenti come moderatori, e alcuni livestream potrebbero non avere un vasto pubblico come la TV, quindi il suo ritardo dovrebbe essere più lungo, forse qualche minuto. Solo allora un numero sufficiente di utenti adulti lo avrebbe esaminato e avrebbe avuto la possibilità di segnalarne il contenuto. Principali utenti, compresi editori e società, potrebbe essere consentito lo streaming live direttamente dopo aver completato un corso di formazione. Facebook potrebbe persino consentire alle persone di richiedere un moderatore aziendale per i prossimi livestream.

Facebook non ha ancora compiuto questo passo relativamente semplice e il motivo è chiaro. I ritardi hanno preso piede in TV solo perché i regolatori della trasmissione hanno penalizzato le emittenti per la messa in onda di contenuti inappropriati durante gli spettacoli dal vivo. Non esiste effettivamente alcuna regolamentazione per le società di social media; cambiano solo alla ricerca di profitti o per ridurre al minimo le proteste pubbliche.

Se e come regolamentare i social media è una questione politica, ma molti politici statunitensi hanno sviluppato legami profondi con piattaforme come Facebook. Alcuni si sono affidati ai social media per raccogliere donazioni, indirizzare i sostenitori con la pubblicità e aiutarli a essere eletti. Una volta in carica, continuano a utilizzare i social media per comunicare con i sostenitori nella speranza di essere rieletti.

Le agenzie federali utilizzano anche i social media per comunicare con il pubblico e influenzare le opinioni delle persone, anche in violazione della legge statunitense. Secondo me, Il ruolo di Facebook come strumento per guadagnare, mantenere e diffondere il potere politico rende molto meno probabile che i politici lo tengano a freno.

La regolamentazione statunitense non arriverà presto

Il Congresso non ha ancora intrapreso alcuna azione significativa per regolamentare le società di social media. Nonostante le forti dichiarazioni dei politici e persino le richieste di audizioni sui social media in risposta all'attacco in Nuova Zelanda, È improbabile che i regolatori statunitensi facciano da guida.

I funzionari dell'Unione europea stanno gestendo gran parte del lavoro, soprattutto intorno alla privacy. Il governo della Nuova Zelanda ha intensificato, pure, vietare il video in streaming del massacro della moschea, il che significa che chiunque lo condivida potrebbe affrontare fino a NZ $ 10, 000 di multe e 14 anni di carcere. Almeno due persone sono già state arrestate per averlo condiviso online.

Facebook potrebbe – e dovrebbe – agire ora

Gran parte della discussione sulla regolamentazione dei social media ha preso in considerazione l'utilizzo di leggi antitrust e monopolistiche per costringere gli enormi giganti della tecnologia come Facebook a dividersi in società separate più piccole. Ma se succede del tutto, sarà molto difficile:lo scioglimento di AT&T è durato un decennio, dalla causa del 1974 al lancio nel 1984 delle società "Baby Bell".

Nel frattempo, ci saranno molti altri incidenti pericolosi e violenti che le persone cercheranno di trasmettere in streaming. Facebook dovrebbe valutare il potenziale di uso improprio dei suoi prodotti e interromperli se gli effetti sono dannosi per la società.

Nessun bambino dovrebbe mai vedere il tipo di "contenuto crudo e viscerale" che è stato prodotto su Facebook Live, inclusi gli omicidi di massa. Non credo che nemmeno gli utenti adulti dovrebbero essere esposti ad assistere a tali atti atroci, poiché gli studi hanno dimostrato che la visualizzazione di immagini violente comporta rischi per la salute, come lo stress post-traumatico.

Ecco perché non sto più consigliando solo un ritardo del live streaming per gli utenti adolescenti:era un appello per proteggere i bambini, quando sono improbabili modifiche più importanti della piattaforma. Ma tutte le persone meritano social media migliori e sicuri. Ora chiedo a Mark Zuckerberg di chiudere Facebook Live nell'interesse della salute e della sicurezza pubblica. Secondo me, quella caratteristica dovrebbe essere ripristinata solo se l'azienda può dimostrare al pubblico – e ai regolatori – che il suo design è più sicuro.

Gestire il live streaming in modo sicuro include avere un numero più che sufficiente di moderatori di contenuti professionali per gestire il carico di lavoro. Tali lavoratori devono inoltre avere un accesso adeguato al supporto per la salute mentale e ad ambienti di lavoro sicuri, so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.