Una nuova ricerca ha trovato un modo per identificare gli estremisti, come quelli associati al gruppo terroristico ISIS, monitorando i loro account sui social media, e può identificarli anche prima che pubblichino contenuti minacciosi.

La ricerca, "Trovare estremisti nei social network online, " che è stato recentemente pubblicato sulla rivista INFORMS Ricerche operative , è stato condotto da Tauhid Zaman del Massachusetts Institute of Technology; Il tenente colonnello Christopher E. Marks, Esercito degli Stati Uniti; e Jytte Klausen della Brandeis University

Il numero e la dimensione dei gruppi estremisti online che utilizzano i social network per molestare gli utenti, reclutare nuovi membri, e l'incitamento alla violenza è in rapido aumento. Mentre le piattaforme di social media stanno lavorando per combattere questo (nel 2016, Twitter ha riferito di aver chiuso 360, 000 account ISIS) si basano tradizionalmente sulle segnalazioni degli utenti per identificare questi account.

Inoltre, una volta che un account è stato sospeso, c'è poco da fare per impedire a un utente di aprire un nuovo account, o più account.

"I social media sono diventati una potente piattaforma per i gruppi estremisti, che vanno dall'ISIS ai gruppi nazionalisti bianchi di "alt-right", " ha detto Zaman. "Questi gruppi usano i social network per diffondere propaganda odiosa e incitare alla violenza e agli attacchi terroristici, rendendoli una minaccia per il pubblico in generale."

Identificare gli estremisti prima che rappresentino una minaccia online

I ricercatori hanno raccolto i dati di Twitter da circa 5, 000 utenti "seme" che erano membri noti dell'ISIS o che erano collegati a molti membri noti dell'ISIS come amici o seguaci. Hanno ottenuto i loro nomi attraverso le notizie, blog, e rapporti pubblicati dalle forze dell'ordine e dai gruppi di riflessione.

Oltre a rivedere il contenuto di 4,8 milioni di tweet dalle timeline di questi utenti (inclusi testo, collegamenti, hashtag, e menzioni), hanno anche monitorato le sospensioni dell'account, così come eventuali sospensioni dei loro account di amici e follower.

Ai fini di questo studio, i ricercatori si sono concentrati sulle reti di account forgiate da noti simpatizzanti di ISIS e Al Qaeda e noti combattenti stranieri e sui contenuti che erano stati segnalati da Twitter come di natura terroristica.

Utilizzando modelli statistici del comportamento estremista con politiche di ricerca ottimizzate e dati effettivi degli utenti ISIS, i ricercatori hanno sviluppato un metodo per prevedere nuovi utenti estremisti, identificare se più account appartengono allo stesso utente, oltre a prevedere le connessioni di rete degli utenti estremisti sospesi che aprono un nuovo account.

Inoltre, monitorando e confrontando i dati sui nomi delle schermate, nome utente, immagini del profilo e immagini banner, i ricercatori sono stati anche in grado di identificare il 70% dei profili Twitter aggiuntivi detenuti da utenti estremisti, con solo un 2% di incidenza di profili di classificazione errata.

"Abbiamo creato una nuova serie di capacità operative per affrontare la minaccia rappresentata dagli estremisti online nei social network, " ha detto Marks. "Siamo in grado di prevedere chi è un estremista prima che pubblichi qualsiasi contenuto, e quindi in grado di prevedere dove rientreranno nella rete dopo essere stati sospesi. In breve, possiamo capire automaticamente chi è un estremista e tenerlo fuori dai social network".

Mentre lo studio è stato condotto utilizzando i dati degli account appartenenti agli estremisti dell'ISIS su Twitter, la loro metodologia può essere applicata a qualsiasi gruppo estremista e a qualsiasi social network.

"Gli utenti che praticano qualche forma di estremismo o molestia online avranno caratteristiche comportamentali molto simili nei social network, " ha detto Klausen. "Si collegheranno a un insieme specifico di utenti che formano il loro gruppo estremista. Creeranno nuovi account che assomiglieranno ai loro vecchi account dopo essere stati sospesi, e quando il ritorno al social network a seguito di una sospensione, c'è un'alta probabilità che si riconnetteranno con alcuni ex amici."