La cifra sbalorditiva di oltre tre miliardi di account falsi bloccati da Facebook in un periodo di sei mesi evidenzia le sfide affrontate dai social network nel frenare gli account automatizzati, o bot, e altri nefasti tentativi di manipolare le piattaforme.

Ecco quattro domande chiave sugli account falsi:

Come sono spuntati così tanti account falsi?

Facebook ha dichiarato questa settimana di aver "disabilitato" 1,2 miliardi di account falsi negli ultimi tre mesi del 2018 e 2,19 miliardi nel primo trimestre del 2019.

La maggior parte degli account di social media falsi sono "bot, " creato da programmi automatizzati per pubblicare determinati tipi di informazioni:una violazione dei termini di servizio di Facebook e parte di uno sforzo per manipolare le conversazioni sociali. Attori sofisticati possono creare milioni di account utilizzando lo stesso programma.

Facebook ha affermato che la sua intelligenza artificiale rileva la maggior parte di questi sforzi e disabilita gli account prima che possano pubblicare sulla piattaforma. Ancora, riconosce che circa il cinque percento degli oltre due miliardi di account Facebook attivi è probabilmente falso.

Qual è il danno degli account falsi?

Gli account falsi possono essere utilizzati per amplificare la popolarità o l'antipatia di una persona o di un movimento, distorcendo così le opinioni degli utenti sul vero sentimento pubblico.

I robot hanno svolto un ruolo sproporzionato nel diffondere disinformazione sui social media in vista delle elezioni statunitensi del 2016, secondo i ricercatori. Gli attori malintenzionati hanno utilizzato questo tipo di account falsi per seminare sfiducia e divisione sociale in molte parti del mondo, in alcuni casi fomentando la violenza contro gruppi o individui.

I bot "non si limitano a manipolare la conversazione, costruiscono gruppi e fanno da ponte tra i gruppi, ", ha affermato l'informatica della Carnegie Mellon University Kathleen Carley, che ha studiato i bot dei social media.

"Possono far credere alle persone di un gruppo di pensare la stessa cosa delle persone di un altro gruppo, e così facendo costruiscono camere di risonanza".

Facebook afferma che i suoi strumenti di intelligenza artificiale possono identificare e bloccare account falsi mentre vengono creati, e quindi prima che possano pubblicare disinformazione.

"Questi sistemi utilizzano una combinazione di segnali come schemi di utilizzo di indirizzi e-mail sospetti, azioni sospette, o altri segnali precedentemente associati ad altri account falsi che abbiamo rimosso, ", ha dichiarato il vicepresidente di Facebook Analytics Alex Schultz in un post sul blog.

Facebook ha il controllo della situazione?

Le cifre del rapporto sulla trasparenza di Facebook suggeriscono che Facebook sta agendo in modo aggressivo su account falsi, disse Onur Varol, ricercatore post-dottorato presso il Center for Complex Network Research della Northeastern University.

"Tre miliardi è un numero enorme:dimostra che non vogliono perdere nessun account falso. Ma sono disposti a correre il rischio" di disabilitare alcuni account legittimi, ha detto Varol.

Gli utenti legittimi potrebbero subire disagi, ma in genere possono ottenere il ripristino dei loro account, ha osservato il ricercatore.

"La mia sensazione è che Facebook stia facendo seri sforzi" per combattere gli account falsi, Ha aggiunto.

Ma i nuovi bot stanno diventando più sofisticati e difficili da rilevare, perché possono usare il linguaggio quasi quanto gli umani, secondo Carley.

"Facebook potrebbe aver risolto la battaglia di ieri, ma la natura di queste cose sta cambiando così rapidamente che potrebbero non ricevere quelle nuove, " lei disse.

Varol accettò, osservando che "ci sono robot che comprendono il linguaggio naturale e possono rispondere alle persone, ed è per questo che è importante portare avanti la ricerca".

Devo preoccuparmi di bot e account falsi?

Molti utenti non riescono a distinguere tra un account reale e falso, dicono i ricercatori. Facebook e Twitter hanno intensificato gli sforzi per identificare ed eliminare account fasulli, e alcuni strumenti pubblici come Botometer sviluppato da Varol e altri ricercatori possono aiutare a determinare la probabilità di account Twitter e follower falsi.

"Se usi Facebook per comunicare con familiari e amici non dovresti preoccuparti molto, " disse Filippo Menczer, un informatico che fa ricerche sui social media all'Università dell'Indiana.

"Se lo usi per accedere alle notizie e condividerle con gli amici, Devi stare attento."

Menczer ha affermato che molti utenti di Facebook prestano poca attenzione alla fonte del materiale e potrebbero finire per condividere informazioni false o fuorvianti.

"Tutti pensano di non poter essere manipolati, ma siamo tutti vulnerabili, " Egli ha detto.

Insieme ai bot, gli esseri umani rappresentano un elemento chiave nella catena della disinformazione, dicono i ricercatori.

"La maggior parte delle informazioni false non proviene dai bot, " Ha detto Carley. "La maggior parte viene dai blog e i bot la ritrasmettono" per amplificare la disinformazione.

Il capo di Facebook Mark Zuckerberg ha affermato che Facebook sta cercando di eliminare gli incentivi finanziari degli account falsi.

"Molti dei contenuti dannosi che vediamo, compresa la disinformazione, sono infatti motivati ​​commercialmente, " Zuckerberg ha detto ai giornalisti. "Quindi una delle migliori tattiche è rimuovere gli incentivi per creare account falsi a monte, che limita i contenuti realizzati a valle."

© 2019 AFP