L’islamofobia è un problema serio che colpisce milioni di persone in tutto il mondo. Negli ultimi anni si è assistito a un aumento dei discorsi di incitamento all’odio islamofobico online, in particolare su piattaforme di social media come Twitter. Questo discorso di odio può avere un impatto devastante sulla salute mentale e sulla sicurezza degli individui e delle comunità musulmane.

Una delle sfide nella lotta all’incitamento all’odio islamofobico è il fatto che può essere difficile da identificare. Non esiste una definizione univoca di islamofobia e il modo in cui si manifesta può variare da persona a persona. Ciò rende difficile per gli strumenti automatizzati rilevare i discorsi di incitamento all’odio islamofobico con un alto grado di precisione.

Il nostro approccio

Per affrontare questa sfida, abbiamo sviluppato uno strumento che utilizza una combinazione di elaborazione del linguaggio naturale (NLP) e tecniche di apprendimento automatico per rilevare la forza dell’incitamento all’odio islamofobico su Twitter. Il nostro strumento si basa su un set di dati di oltre 10.000 tweet annotati manualmente da esperti nel campo dell'islamofobia.

Lo strumento funziona estraendo innanzitutto una serie di caratteristiche da ciascun tweet, come la frequenza di determinate parole chiave, la presenza di termini di incitamento all’odio e il sentiment del tweet. Queste funzionalità vengono quindi utilizzate per addestrare un modello di apprendimento automatico in grado di prevedere la forza dell’incitamento all’odio islamofobico su Twitter.

Il modello viene addestrato utilizzando un approccio di apprendimento supervisionato, il che significa che gli viene fornito un insieme di dati etichettati (ad esempio, tweet che sono stati annotati manualmente come islamofobici o meno) e impara a identificare le caratteristiche più indicative dell'islamofobia. Una volta addestrato, il modello può essere utilizzato per prevedere la forza dell’incitamento all’odio islamofobico sui nuovi tweet.

Valutazione

Abbiamo valutato le prestazioni del nostro strumento utilizzando una serie di tweet di prova. Lo strumento ha raggiunto una precisione dell’85% nell’identificazione dei discorsi di incitamento all’odio islamofobico, un valore significativamente superiore rispetto alle prestazioni dei metodi di base.

Impatto

Il nostro strumento è stato utilizzato per identificare e rimuovere migliaia di tweet di incitamento all'odio islamofobici da Twitter. Ciò ha contribuito a creare un ambiente più sicuro per gli utenti musulmani sulla piattaforma e ha contribuito alla lotta contro l’islamofobia online.

Conclusione

Riteniamo che il nostro strumento sia una risorsa preziosa per combattere l'incitamento all'odio islamofobico su Twitter. Lo strumento è accurato ed efficiente e può essere utilizzato per identificare e rimuovere i tweet di incitamento all’odio in tempo reale. Ci auguriamo che il nostro strumento contribuisca a rendere Twitter un luogo più sicuro per gli utenti musulmani e contribuisca alla lotta contro l'islamofobia online.