A giugno 2017, Google, Facebook, Twitter e Microsoft hanno annunciato la formazione del Global Internet Forum to Counter Terrorism (GIFCT). Lo scopo di questa iniziativa guidata dall'industria è di interrompere lo sfruttamento terroristico dei suoi servizi. Recentemente, I membri del GIFCT hanno salutato i risultati del suo primo anno di attività. Ma, mentre questo progresso deve essere riconosciuto, rimangono sfide significative.

Ogni minuto ce ne sono in media 510, 000 commenti e 136, 000 foto condivise su Facebook, 350, 000 tweet pubblicati su Twitter e 300 ore di video caricati su YouTube.

Dato ciò, le più grandi aziende si affidano ampiamente all'intelligenza artificiale (AI). Gli usi dell'intelligenza artificiale di Facebook includono la corrispondenza delle immagini. Ciò impedisce agli utenti di caricare una foto o un video che corrisponda a un'altra foto o video che è stato precedentemente identificato come terrorista. Allo stesso modo, YouTube ha riferito che il 98% dei video che rimuove per estremismo violento è segnalato anche da algoritmi di apprendimento automatico.

Progressi finora

Una delle difficoltà che le società di social media devono affrontare è che, se un gruppo terroristico viene bloccato da una piattaforma, potrebbe semplicemente passare a un altro. In risposta a ciò, I membri GIFCT hanno creato un database di settore condiviso di "hash". Un hash è un'impronta digitale unica che può essere utilizzata per tracciare l'attività digitale. Quando il contenuto pro-terrorismo viene rimosso da un membro GIFCT, il suo hash viene condiviso con le altre società partecipanti per consentire loro di bloccare i contenuti sulle proprie piattaforme.

Nella sua recente riunione, il GIFCT ha annunciato che ad oggi 88, 000 hash sono stati aggiunti al database. Quindi il consorzio è sulla buona strada per raggiungere il suo obiettivo di 100, 000 hash entro la fine del 2018. Soprattutto, ora che altre nove aziende hanno aderito al consorzio, compreso Instagram, Justpaste.it e LinkedIn.

Questi sforzi hanno indubbiamente interrotto l'uso delle piattaforme di social media da parte dei terroristi. Per esempio, nei 23 mesi dal 1 agosto, 2015, Twitter ha sospeso quasi un milione di account per promuovere il terrorismo. Nella seconda metà del 2017, YouTube ha rimosso 150, 000 video per estremismo violento. Quasi la metà di questi è stata rimossa entro due ore dal caricamento.

Sfide future

Resta ancora molto lavoro da fare. In risposta all'interruzione del loro utilizzo di Twitter, i sostenitori del cosiddetto Stato Islamico (IS) hanno cercato di eludere la tecnologia di blocco dei contenuti tramite il cosiddetto outlinking, utilizzando collegamenti ad altre piattaforme. interessante, i siti che sono più comunemente linkati per includere justpaste.it, sendvid.com e archive.org. Questa sembra essere una strategia deliberata per sfruttare la mancanza di risorse e competenze delle aziende più piccole.

I sostenitori dell'IS hanno anche spostato le loro attività di community building su altre piattaforme, in particolare Telegram. Telegram è un servizio di messaggistica istantanea basato su cloud che fornisce messaggi crittografati end-to-end opzionali. Questa crittografia impedisce la lettura dei messaggi da parte di terzi. Ed è stato ampiamente utilizzato per condividere contenuti prodotti dai canali IS ufficiali.

Questo fa parte di un movimento più ampio verso metodi più segreti. Altri servizi di messaggistica crittografata, compreso WhatsApp, sono stati utilizzati dai jihadisti per la comunicazione e la pianificazione degli attacchi. Anche i siti web sono stati trasferiti su Darknet. Il Darknet è una parte nascosta di Internet di natura anonima e accessibile solo utilizzando un software di crittografia specializzato. Un rapporto del 2018 ha avvertito che le piattaforme Darknet hanno il potenziale per funzionare come un "rifugio virtuale sicuro" jihadista.

Inoltre, una recente ricerca ha scoperto che i sostenitori di gruppi jihadisti diversi dall'IS subiscono interruzioni significativamente inferiori su Twitter. I sostenitori di questi altri gruppi sono stati in grado di postare sei volte più tweet, segui il quadruplo degli account e ottieni 13 volte più follower degli account pro-IS.

È anche importante rispondere ad altre forme di estremismo violento. I gruppi di estrema destra hanno anche una presenza significativa su piattaforme come YouTube e Facebook. Sebbene siano state prese misure per interrompere la loro presenza online, come la decisione di Facebook di bandire Britain First dalla sua piattaforma, sembra che anche questi gruppi stiano iniziando a migrare verso la Darknet.

Overreach

Proprio come c'è il problema di raggiungere i social media terroristici, ci sono anche sfide relative al potenziale overreach. Non ci si può aspettare che gli algoritmi di apprendimento automatico identifichino i contenuti terroristici con una precisione del 100%. Alcuni contenuti verranno erroneamente identificati come terroristici e bloccati o rimossi. Ma le sfide qui vanno oltre la semplice applicazione corretta della soglia. Riguardano anche dove dovrebbe essere tracciata la soglia in primo luogo.

Le difficoltà nel definire il terrorismo sono ben note. Riassunto dallo slogan "Il terrorista di uno è il combattente per la libertà di un altro", una delle questioni di definizione più controverse è quella della giusta causa. Una definizione di terrorismo dovrebbe escludere quelli come gli attivisti per la democrazia in un paese governato da un regime oppressivo e tirannico? Secondo molti paesi, compreso il Regno Unito, la risposta è no. Come ha affermato un giudice della Corte d'appello:"Il terrorismo è terrorismo, qualunque siano le motivazioni degli autori".

Se le società di social media adottano un approccio simile, questo potrebbe avere alcune ramificazioni significative. Infatti, ci sono già esempi preoccupanti. Nel 2017, migliaia di video che documentano le atrocità in Siria sono stati rimossi da YouTube da nuove tecnologie finalizzate alla propaganda estremista. Questi video hanno fornito importanti prove di violazioni dei diritti umani. Alcuni esistevano solo su YouTube, poiché non tutti gli attivisti e i media siriani possono permettersi un archivio offline. Eppure l'alternativa - cercare di distinguere tra cause giuste e ingiuste - è piena di difficoltà.

In un momento in cui le società di social media affrontano una crescente pressione per fare di più per contrastare lo sfruttamento terroristico delle loro piattaforme, i progressi compiuti durante il primo anno del GIFCT sono i benvenuti. Ma è solo il primo passo.

Questo articolo è stato originariamente pubblicato su The Conversation. Leggi l'articolo originale.