Un team di ricercatori, compresa la facoltà della Binghamton University, hanno sviluppato algoritmi di apprendimento automatico in grado di identificare con successo bulli e aggressori su Twitter con una precisione del 90%.

Gli strumenti efficaci per rilevare azioni dannose sui social media sono scarsi, poiché questo tipo di comportamento è spesso di natura ambigua e/o manifestato tramite commenti e critiche apparentemente superficiali. Con l'obiettivo di colmare questa lacuna, un team di ricerca con Jeremy Blackburn, informatico della Binghamton University, ha analizzato i modelli comportamentali esibiti dagli utenti di Twitter abusivi e le loro differenze rispetto agli altri utenti di Twitter.

"Abbiamo creato crawler, programmi che raccolgono dati da Twitter tramite una varietà di meccanismi, " ha detto Blackburn. "Abbiamo raccolto i tweet degli utenti di Twitter, i loro profili, così come cose relative alla rete (sociale), come chi seguono e chi li segue."

I ricercatori hanno quindi eseguito l'elaborazione del linguaggio naturale e l'analisi del sentimento sui tweet stessi, così come una serie di analisi di social network sulle connessioni tra gli utenti. I ricercatori hanno sviluppato algoritmi per classificare automaticamente due tipi specifici di comportamenti offensivi online, cioè., cyberbullismo e cyberaggressione. Gli algoritmi sono stati in grado di identificare gli utenti abusivi su Twitter con una precisione del 90%. Si tratta di utenti che adottano comportamenti molesti, per esempio. coloro che inviano minacce di morte o fanno commenti razzisti agli utenti.

"In poche parole, gli algoritmi "imparano" a distinguere tra bulli e utenti tipici soppesando determinate caratteristiche man mano che vengono mostrati più esempi, " ha detto Blackburn.

Sebbene questa ricerca possa aiutare a mitigare il cyberbullismo, è solo un primo passo, disse Blackburn.

"Uno dei maggiori problemi con i problemi di sicurezza informatica è il danno che viene fatto agli esseri umani, ed è molto difficile da 'annullare, '" Disse Blackburn. "Ad esempio, la nostra ricerca indica che l'apprendimento automatico può essere utilizzato per rilevare automaticamente gli utenti che sono cyberbulli, e quindi potrebbe aiutare Twitter e altre piattaforme di social media a rimuovere gli utenti problematici. Però, un tale sistema è in definitiva reattivo:non impedisce intrinsecamente azioni di bullismo, li identifica solo che si verificano su larga scala. E la sfortunata verità è che anche se gli account di bullismo vengono cancellati, anche se tutti i loro attacchi precedenti vengono eliminati, le vittime le vedevano ancora e ne erano potenzialmente colpite".

Blackburn e il suo team stanno attualmente esplorando tecniche di mitigazione proattive per affrontare le campagne di molestie.

Lo studio, "Rilevare il cyberbullismo e la cyberaggressione nei social media, " è stato pubblicato in Transazioni sul Web .