Le molestie sono diventate onnipresenti sui social media e nel mondo online:Twitter è stato preso di mira per come gestisce le molestie, L'algoritmo di tendenza di YouTube ha occasionalmente promosso video offensivi, e segnalare un abuso su Instagram è ancora abbastanza difficile.

Sebbene gli attuali strumenti di molestia come il blocco degli utenti o il filtraggio delle parole trigger aiutino parzialmente, molti maltrattamenti online sono così sottili che un algoritmo da solo potrebbe non rilevare vari segnali.

Ma cosa accadrebbe se le persone potessero effettivamente sfruttare i loro amici per aiutare a moderare i loro account e proteggerli da messaggi offensivi?

Un team del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT utilizza questo approccio con "Squadbox", un nuovo strumento di crowdsourcing che consente alle persone che sono state oggetto di molestie di coordinare "squadre" di amici per filtrare i messaggi e supportarli durante gli attacchi.

Il team ha intervistato una serie di scienziati, attivisti, e personaggi di Youtube, e ha scoperto che molte persone molestate tramite e-mail si affidano ad amici e familiari per proteggersi dai messaggi offensivi.

L'autore senior e professore del MIT David Karger afferma che Squadbox mira a rendere questo cosiddetto "friend-sourcing" più efficiente e meno lavoro per i suoi moderatori.

"Se dai ai moderatori le chiavi della tua casella di posta, come fa il moderatore a sapere quando c'è un'email da moderare, e quale email è già stata gestita da altri moderatori?" afferma Karger. "Squadbox consente agli utenti di personalizzare il modo in cui viene gestita la posta in arrivo, suddividendo il lavoro per assicurarsi che non ci sia duplicazione degli sforzi".

Karger ha scritto il nuovo documento con la studentessa di dottorato Amy Zhang e l'ex studentessa del MIT e attuale ingegnere del software Kaitlin Mahar. Il team presenterà il lavoro ad aprile alla CHI Conference on Human Factors in Computing Systems di ACM a Montreal, Canada.

Moderazione "amica"

Con Squadbox, il "proprietario" della squadra può impostare filtri per inoltrare automaticamente i contenuti in arrivo alla sua pipeline di moderazione. Quando arriva un'e-mail, un moderatore decide quali email sono molestie, e che può essere inoltrato alla casella di posta della persona.

Per esempio, diciamo che un giornalista vuole avere un indirizzo email pubblico per ricevere suggerimenti sulle notizie, ma teme di averne uno a causa della frequenza con cui viene molestata da persone che non sono d'accordo con la sua segnalazione. Potrebbe creare un account Squadbox con due colleghi intimi come moderatori, e poi usa il suo account ovunque desideri condividere il suo indirizzo email. Qualsiasi email che riceve a quell'indirizzo passa prima attraverso la sua squadra.

"Le soluzioni precedenti dipendevano interamente da tecniche automatizzate, o erano eccessivamente dipendenti da soluzioni social come semplicemente fornire le informazioni del proprio account a un amico, "dice Clifford Lampe, un professore di informazione presso l'Università del Michigan. "Questa linea di lavoro aiuta a fornire una mappa per una soluzione ibrida alle molestie che aumenta il supporto umano con strumenti in modo significativo".

Mentre il team prevede di estendere le capacità di Squadbox per lavorare con piattaforme di social media, dicono che la posta elettronica è un sistema particolarmente utile per studiare le molestie.

"La cosa interessante dell'e-mail è che non è allo scoperto come Twitter o Facebook, " dice Karger. "Ciò significa che i molestatori possono sentirsi meno responsabili perché i loro commenti non sono pubblici".

Squadbox consente inoltre agli utenti di creare "liste bianche" e "liste nere" di mittenti le cui e-mail verranno automaticamente approvate o rifiutate senza moderazione. Gli utenti possono anche disattivare e riattivare il sistema, leggere i punteggi sulla tossicità dei messaggi, e persino rispondere ai molestatori.

"Le molestie sono un'esperienza intrinsecamente depotenziante, e dare opzioni ai sopravvissuti permette loro di riprendere il controllo, "dice Emily May, co-fondatore e direttore esecutivo dell'iniziativa globale anti-molestie Hollaback! "Squadbox è progettato non solo per ricordare alle persone che hanno una comunità intorno a loro, ma per attivare quella comunità per loro conto."

Il team ha valutato Squadbox su cinque coppie di amici, e ha scoperto che l'uso degli amici aiutava con i timori della privacy e consentiva decisioni più personalizzate per le vittime. Però, gli utenti erano ancora preoccupati che un amico potesse essere sensibile ai tempi di risposta lenti, e che il sistema potrebbe anche "distribuire" l'onere. Il team afferma che avere più moderatori potrebbe potenzialmente aiutare questo problema.

"Squadbox offre un sistema tangibile di supporto per le persone molestate online utilizzando altre persone, ", afferma May. "Dobbiamo ridare il controllo ai sopravvissuti e creare comunità abbastanza forti da dichiarare:questa non è l'Internet che vogliamo. Non è il mondo che vogliamo. E non lo sopporteremo più".