Pagine da un rapporto di un informatore confidenziale ottenuto da The Associated Press, insieme a due pagine Facebook stampate che erano attive martedì, 17 settembre 2019, sono fotografati a Washington. A Facebook piace dire che i suoi sistemi automatizzati rimuovono la stragrande maggioranza dei contenuti proibiti che glorificano il gruppo dello Stato Islamico e al-Qaeda prima che vengano segnalati. Ma la denuncia di un informatore mostra che Facebook stesso ha inavvertitamente prodotto dozzine di pagine a loro nome. (Foto AP/Jon Elswick)
Di fronte alle critiche secondo cui Facebook non sta facendo abbastanza per combattere i messaggi estremisti, alla società piace dire che i suoi sistemi automatizzati rimuovono la stragrande maggioranza dei contenuti proibiti che glorificano il gruppo dello Stato Islamico e al-Qaeda prima che vengano segnalati.
Ma la denuncia di un informatore mostra che Facebook stesso ha inavvertitamente fornito ai due gruppi estremisti uno strumento di networking e reclutamento producendo dozzine di pagine a loro nome.
La società di social network sembra aver fatto pochi progressi sulla questione nei quattro mesi trascorsi da quando l'Associated Press ha spiegato in che modo le pagine generate automaticamente da Facebook per le aziende stanno aiutando gli estremisti del Medio Oriente e i suprematisti bianchi negli Stati Uniti.
Di mercoledì, senatori degli Stati Uniti nel Committee on Commerce, Scienza, e Trasporti interrogheranno i rappresentanti delle società di social media, tra cui Monika Bickert, che guida gli sforzi di Facebook per arginare i messaggi estremisti.
I nuovi dettagli provengono da un aggiornamento di un reclamo alla Securities and Exchange Commission che il National Whistleblower Center prevede di presentare questa settimana. L'archiviazione ottenuta dall'AP identifica quasi 200 pagine generate automaticamente, alcune per aziende, altri per scuole o altre categorie, che fanno riferimento direttamente al gruppo dello Stato islamico e decine di altri che rappresentano al-Qaeda e altri gruppi noti. Una pagina indicata come "ideologia politica" è intitolata "Amo lo stato islamico". Presenta un logo IS all'interno dei contorni della famosa icona del pollice in su di Facebook.
In risposta a una richiesta di commento, un portavoce di Facebook ha dichiarato all'AP:"La nostra priorità è rilevare e rimuovere i contenuti pubblicati da persone che violano la nostra politica contro individui e organizzazioni pericolosi per stare al passo con i cattivi attori. Le pagine generate automaticamente non sono come le normali pagine di Facebook in quanto le persone non possono commentare o pubblicare su di essi e rimuoviamo quelli che violano le nostre politiche. Anche se non possiamo catturarli tutti, rimaniamo vigili in questo sforzo".
Facebook ha una serie di funzioni che generano automaticamente pagine dai contenuti pubblicati dagli utenti. Il reclamo aggiornato esamina una funzione che ha lo scopo di aiutare il networking aziendale. Raschia le informazioni sull'occupazione dalle pagine degli utenti per creare pagine per le aziende. In questo caso, potrebbe aiutare i gruppi estremisti perché consente agli utenti di mettere mi piace alle pagine, potenzialmente fornendo un elenco di simpatizzanti per i reclutatori.
Pagine da un rapporto di un informatore confidenziale ottenuto da The Associated Press, sono fotografati a Washington, martedì, 17 settembre 2019. A Facebook piace dire che i suoi sistemi automatizzati rimuovono la stragrande maggioranza dei contenuti proibiti che glorificano il gruppo dello Stato Islamico e al-Qaeda prima che vengano segnalati. Ma la denuncia di un informatore mostra che Facebook stesso ha inavvertitamente prodotto dozzine di pagine a loro nome. (Foto AP/Jon Elswick)
Il nuovo documento ha anche scoperto che le pagine degli utenti che promuovono gruppi estremisti rimangono facili da trovare con semplici ricerche usando i loro nomi. Hanno scoperto una pagina per "Mohammed Atta" con una foto iconica di uno degli aderenti ad al-Qaeda, che era un dirottatore negli attacchi dell'11 settembre. La pagina elenca il lavoro dell'utente come "Al Qaidah" e l'istruzione come "Master universitario Bin Laden" e "School Terrorist Afghanistan".
Facebook ha lavorato per limitare la diffusione di materiale estremista sul suo servizio, finora con alterne fortune. A marzo, ha ampliato la sua definizione di contenuto proibito per includere materiale nazionalista bianco americano e separatista bianco, nonché quello di gruppi estremisti internazionali. Dice di aver bandito 200 organizzazioni suprematiste bianche e 26 milioni di contenuti relativi a gruppi estremisti globali come IS e al-Qaeda.
Ha inoltre ampliato la sua definizione di terrorismo per includere non solo atti di violenza compiuti per raggiungere uno scopo politico o ideologico, ma anche tentativi di violenza, soprattutto quando mirato a civili con l'intento di costringere e intimidire. non è chiaro, anche se, come funziona l'applicazione se l'azienda ha ancora problemi a liberare la sua piattaforma dai sostenitori di ben note organizzazioni estremiste.
Ma come mostra il rapporto, molto materiale passa attraverso le fessure e viene generato automaticamente.
La storia di AP a maggio ha evidenziato il problema dell'autogenerazione, ma il nuovo contenuto identificato nel rapporto suggerisce che Facebook non l'ha risolto.
Il rapporto afferma anche che i ricercatori hanno scoperto che molte delle pagine a cui si fa riferimento nel rapporto AP sono state rimosse più di sei settimane dopo, il 25 giugno, il giorno prima che Bickert fosse interrogato per un'altra udienza al Congresso.
Il problema è stato segnalato nella denuncia iniziale della SEC presentata dal direttore esecutivo del centro, John Kostyack, che sostiene che la società di social media abbia esagerato il suo successo nella lotta alla messaggistica estremista.
"Facebook vorrebbe farci credere che i suoi algoritmi magici stiano in qualche modo ripulendo il suo sito web di contenuti estremisti, " ha detto Kostyack. "Eppure quegli stessi algoritmi stanno generando automaticamente pagine con titoli come 'I Love Islamic State, ' che sono ideali per i terroristi da utilizzare per il networking e il reclutamento".
© 2019 The Associated Press. Tutti i diritti riservati.
