Schema dei passaggi per il rilevamento dell'inciviltà. I blocchi di colore giallo rappresentano gli ingressi, i blocchi di colore rosso rappresentano i classificatori e i blocchi di colore blu rappresentano i passaggi intermedi. Credito:Maity et al.
Ricercatori della Northwestern University, McGill University, e l'Indian Institute of Technology Kharagpur hanno recentemente sviluppato un modello di rete neurale convoluzionale a livello di carattere (CNN) che potrebbe aiutare a rilevare post offensivi su Twitter. Si è scoperto che questo modello supera diversi metodi di base, raggiungendo una precisione del 93,3 percento.
Negli ultimi anni, i comportamenti abusivi sulle piattaforme online sono aumentati in modo esponenziale, in particolare su Twitter. Le società di social media sono quindi alla ricerca di nuovi metodi efficaci per identificare questo comportamento al fine di intervenire e impedire che causi gravi danni.
"Twitter, inizialmente concepita come una piazza e-town, ' si sta trasformando in un mosh pit, "Animesh Mukherjee, uno dei ricercatori che ha condotto lo studio, detto Tech Xplore . "Un numero crescente di cyber-aggressione, Ogni giorno vengono segnalati casi di cyberbullismo e inciviltà, molti dei quali colpiscono gravemente gli utenti. Infatti, questo è uno dei motivi principali per cui Twitter sta perdendo la sua base di follower attivi".
I contenuti online possono diffondersi rapidamente e raggiungere un pubblico molto ampio, quindi i casi di abuso online spesso si trascinano per lunghi periodi di tempo con effetti altamente dannosi. La vittima o le vittime, così come altri passanti sensibili, potrebbe finire per leggere le parole dell'autore del reato innumerevoli volte prima che queste scompaiano finalmente da Twitter. Ecco perché è importante che le piattaforme di social media rilevino questi contenuti in modo efficace e rapido, eseguire interventi tempestivi per rimuoverlo.
"Siamo partiti con l'obiettivo di sviluppare un meccanismo in grado di rilevare automaticamente i tweet incivili in anticipo, prima che possano fare gravi danni, " ha detto Mukherjee. "Abbiamo osservato che il più delle volte, una vittima/bersaglio viene attaccata dopo aver espresso sentimenti forti verso determinate entità nominate. Questo ci ha portato all'idea centrale di sfruttare i conflitti di opinione per rilevare i tweet incivili".
Mukherjee e i suoi colleghi si sono resi conto che i post offensivi sono spesso correlati a differenze di opinione tra l'autore del reato e il bersaglio, in particolare opinioni su un personaggio o un ente pubblico famoso. Hanno quindi incorporato le informazioni sul sentiment specifiche dell'entità nel loro modello CNN, sperando che ciò migliorerebbe le sue prestazioni nel rilevamento di contenuti offensivi.
Nell'esempio del contesto di inciviltà citato di seguito, osserviamo che il target twitta positivamente su Donald Trump e sull'economia statunitense. Però, l'autore del reato (titolare del conto) twitta negativamente su Trump e positivamente sul presidente Obama. Possiamo osservare che esiste un conflitto di opinioni tra il target e il titolare del conto poiché i sentimenti espressi nei confronti dell'entità denominata comune Donald Trump sono opposti. Passando attraverso l'intero scambio di messaggi, scopriamo che questo conflitto di opinioni alla fine porta a un incarico incivile. Credito:Maity et al.
"La CNN a livello di personaggio cerca di estrarre automaticamente i modelli dai tweet incivili che li distinguono dagli altri tweet, "Pawan Goyal, un altro ricercatore che ha condotto lo studio, ha detto a Tech Xplore. "Abbiamo anche scelto di utilizzare l'incorporamento a livello di personaggio, piuttosto che incorporamento a livello di parola. Poiché i tweet sono generalmente piccoli, contengono solo poche parole, e hanno molte varianti ortografiche, i modelli a livello di carattere sono risultati più robusti dei modelli a livello di parole".
Questo modello CNN a livello di personaggio ha superato il miglior metodo di base del 4,9%, raggiungendo una precisione del 93,3% nel rilevare i tweet incivili. I ricercatori hanno anche effettuato un'analisi post-hoc, esaminando più da vicino gli aspetti comportamentali degli autori di reato e delle vittime su Twitter, sperando di capire meglio gli incidenti di inciviltà.
Questa analisi ha rivelato che una parte considerevole degli utenti erano recidivi che avevano molestato obiettivi più di 10 volte. Allo stesso modo, alcuni bersagli erano stati molestati da diversi trasgressori in diverse occasioni. "La scoperta più interessante di questo studio è che i conflitti di opinione sono fortemente correlati al comportamento incivile su Twitter, " Ha detto Mukherjee. "Questa singola caratteristica legata al modello neurale profondo basato su char-CNN può essere molto efficace nell'identificare precocemente i tweet incivili".
Nel futuro, il modello della CNN ideato da Mukherjee e dai suoi colleghi potrebbe aiutare a contrastare e ridurre i contenuti offensivi su Twitter. I ricercatori stanno ora cercando di sviluppare modelli simili per rilevare l'incitamento all'odio su Twitter, così come su altre piattaforme di social media.
"Nel frattempo, stiamo anche studiando come si diffonde l'incitamento all'odio sui social media, oltre a indagare su come diversi metodi per contrastare l'incitamento all'odio potrebbero aiutare ad affrontare questo vizioso fenomeno online, " ha detto Mukherjee.
© 2018 Tech Xplore
