L'aumento dell'incitamento all'odio online è un inquietante, trend in crescita nei paesi di tutto il mondo, con gravi conseguenze psicologiche e il potenziale impatto, e anche contribuire a, violenza del mondo reale. Il contro discorso generato dai cittadini può aiutare a scoraggiare la retorica online di odio, ma è stato difficile quantificare e studiare. Fino a poco tempo fa, studi sono stati limitati a piccola scala, sforzi etichettati a mano.

Un nuovo documento pubblicato negli atti della Conferenza 2020 sui metodi empirici nell'elaborazione del linguaggio naturale (EMNLP) offre un quadro per lo studio delle dinamiche dell'odio online e del discorso contrario. Il documento offre la prima classificazione su larga scala di milioni di tali interazioni su Twitter. Gli autori hanno sviluppato un algoritmo di apprendimento per valutare i dati di una situazione unica su Twitter tedesco, e i risultati suggeriscono che i movimenti organizzati per contrastare l'incitamento all'odio sui social media sono più efficaci degli individui che si battono da soli.

Gli autori presenteranno il loro paper, "Contrastare l'odio sui social media:classificazioni su larga scala di odio e discorsi contrari" durante il 20 novembre, 2020, Workshop su abusi e danni online, che è in esecuzione in collaborazione con EMNLP 2020.

"Ho visto questo grande cambiamento nel discorso civile negli ultimi due o tre anni verso l'essere molto più odioso e molto più polarizzato, "dice Joshua Garland, un matematico e Applied Complexity Fellow presso il Santa Fe Institute. "Così, per me, una domanda interessante era:qual è una risposta appropriata quando sei vittima di bullismo informatico o quando ricevi incitamento all'odio online? rispondi? Cerchi di convincere i tuoi amici a proteggerti? Blocchi semplicemente la persona?"

Per studiare scientificamente tali questioni, i ricercatori devono prima avere accesso a una grande quantità di dati del mondo reale sia sull'incitamento all'odio che sul contro-discorso, e la capacità di distinguere tra i due. Quei dati esistevano, e Garland e il collaboratore Keyan Ghazi-Zahedi presso l'Istituto Max Planck in Germania l'hanno trovato in un'interazione di cinque anni che si è svolta su Twitter tedesco:mentre un gruppo di alt-right è salito sulla piattaforma con incitamenti all'odio, un movimento organizzato sorse per contrastarlo.

"La bellezza di questi due gruppi è che si auto-etichettavano, " spiega Mirta Galesic, sociologo del team e professore di dinamiche sociali umane presso SFI. Dice che i ricercatori che studiano il contro-discorso di solito devono impiegare centinaia di studenti per codificare manualmente migliaia di post. Ma Garland e Ghazi-Zahedi sono stati in grado di inserire i post auto-etichettati in un algoritmo di apprendimento automatico per automatizzare ampie sezioni della classificazione. Il team ha anche fatto affidamento su 20-30 programmatori umani per verificare che le classificazioni delle macchine corrispondessero all'intuizione su ciò che registra come odio e contro-discorso.

Il risultato è stato un set di dati di dimensioni senza precedenti che consente ai ricercatori di analizzare non solo casi isolati di odio e discorsi contrari, ma confronta anche le interazioni a lungo termine tra i due.

Il team ha raccolto un set di dati di milioni di tweet pubblicati dai membri dei due gruppi, utilizzando questi tweet auto-identificati per addestrare il loro algoritmo di classificazione a riconoscere l'odio e contrastare i discorsi. Quindi, hanno applicato il loro algoritmo per studiare la dinamica di circa 200, 000 conversazioni avvenute tra il 2013 e il 2018. Gli autori prevedono di pubblicare presto un documento di follow-up che analizzerà le dinamiche rivelate dal loro algoritmo.

"Ora possiamo risolvere un enorme set di dati dal 2016 al 2018 per vedere come la proporzione di odio e discorsi è cambiata nel tempo, chi ottiene più mi piace, chi è ritwittato, e come si rispondevano l'un l'altro", dice Galesic.

La quantità di dati, un enorme vantaggio, lo rende anche "incredibilmente complesso, " osserva Garland. I ricercatori stanno confrontando le tattiche per entrambi i gruppi e perseguendo domande più ampie come se alcune strategie di contro-discorso siano più efficaci di altre.

"Quello che spero è che possiamo elaborare una rigorosa teoria sociale che dica alle persone come contrastare l'odio in modo produttivo e non polarizzante, "Ghirlanda dice, "e riportare Internet nel discorso civile".