Una pagina generata automaticamente da Facebook per un gruppo che si identifica come il gruppo terroristico "Al-Qaeda nella penisola arabica" mostra una foto della nave da guerra USS Cole della US Navy bombardata. La pagina era ancora attiva da martedì, 7 maggio 2019, quando è stata effettuata la cattura dello schermo. Facebook afferma di disporre di solidi sistemi per rimuovere i contenuti dai gruppi estremisti, ma un reclamo di un informatore sigillato esaminato dall'AP afferma che i contenuti vietati rimangono sul web e sono facili da trovare. (Facebook tramite AP)
La domanda viene più e più volte, con materiale estremista, incitamento all'odio, ingerenza elettorale e violazione della privacy. Perché Facebook non può semplicemente risolverlo?
È complicato, con motivi che includono le dimensioni di Facebook, il suo modello di business e le limitazioni tecniche, per non parlare di anni di crescita incontrollata. Oh, e l'elemento della natura umana.
L'ultima rivelazione:Facebook sta inavvertitamente creando video celebrativi utilizzando contenuti estremisti e pagine aziendali autogeneranti per artisti del calibro di ISIS e Al Qaida. L'azienda dice che sta lavorando a soluzioni e che i problemi stanno migliorando. Questo è vero, ma i critici dicono che meglio non è abbastanza quando le sparatorie di massa vengono trasmesse in streaming e i mob online diffondono voci che portano a violenze mortali.
"Sono stati frustrantemente lenti nell'affrontare qualsiasi cosa, dagli abusi sessuali su minori al terrorismo, supremazia bianca, bullismo, porno non consensuale" e cose come consentire agli inserzionisti di scegliere come target categorie come "odiatori di ebrei, " semplicemente perché alcuni utenti avevano indicato il termine come "interesse, " ha detto Hany Farid, un esperto di informatica forense presso l'Università della California, Berkeley.
Quando emergono nuovi problemi, La formula di Facebook è stata quella di scusarsi e promettere di apportare modifiche, a volte notando anche che non prevedeva come gli attori malintenzionati potessero abusare così facilmente della sua piattaforma. Più recentemente, l'azienda ha anche sottolineato quanto stia migliorando, sia tecnicamente nell'uso dell'intelligenza artificiale per rilevare i problemi sia in termini di concentrazione di più denaro e sforzi per risolverli.
Sulla pagina Facebook di un utente che si identifica come Nawan Al-Farancsa viene visualizzato un banner con la scritta "The Islamic State". La pagina era ancora attiva martedì, 7 maggio 2019, quando è stata effettuata la cattura dello schermo. Facebook afferma di disporre di solidi sistemi per rimuovere i contenuti dai gruppi estremisti, ma un reclamo sigillato di un informatore esaminato dall'AP afferma che il contenuto vietato rimane sul web ed è facile da trovare. (Facebook tramite AP)
"Dopo aver fatto ingenti investimenti, stiamo rilevando e rimuovendo i contenuti terroristici con una percentuale di successo molto più elevata rispetto a due anni fa, " Facebook ha detto mercoledì in risposta alle rivelazioni sulle pagine generate automaticamente. "Non pretendiamo di trovare tutto, e rimaniamo vigili nei nostri sforzi contro i gruppi terroristici in tutto il mondo".
Ha visto un certo successo. Alla fine del 2016, L'amministratore delegato Mark Zuckerberg ha infamemente respinto come "piuttosto folle" l'idea che le notizie false sul suo servizio avrebbero potuto influenzare le elezioni. In seguito ha fatto marcia indietro, e da allora l'azienda ha ridotto la quantità di disinformazione condivisa sul suo servizio, come misurato da diversi studi indipendenti.
Zuckerberg ha anche nell'insieme, ha evitato gaffe simili concedendo errori e scusandosi con il pubblico e con i legislatori.
Ma anche se l'azienda risolve un problema, ne spuntano altri. La ragione di ciò potrebbe essere impressa nel suo DNA. E non solo perché il suo modello di business si basa sul maggior numero possibile di persone che lo utilizzano il più possibile, lasciando dietro di sé dettagli personali che possono poi essere presi di mira dagli inserzionisti.
In questo giovedì, 29 marzo 2018, foto d'archivio, il logo di Facebook appare sugli schermi del Nasdaq MarketSite, a Times Square a New York. La domanda viene più e più volte, con materiale estremista, incitamento all'odio, ingerenza elettorale, violazioni della privacy, discriminazione abitativa. Perché Facebook non può semplicemente risolverlo? (Foto AP/Richard Drew, File)
In questo 11 aprile 2018, foto d'archivio, Il CEO di Facebook Mark Zuckerberg testimonia prima di un'udienza House Energy and Commerce a Capitol Hill a Washington. Facebook dà l'impressione che stia fermando la stragrande maggioranza dei post estremisti prima che gli utenti li vedano. Ma la denuncia di un informatore confidenziale alla Securities and Exchange Commission ottenuta da The Associated Press afferma che la società di social media ha esagerato il suo successo. (Foto AP/Andrew Harnik, File)
"Quasi tutto ciò che Facebook ha progettato è stato progettato per brave persone. Persone che sono carine l'una con l'altra, che hanno compleanni da festeggiare, che hanno nuovi cuccioli e generalmente amano trattare bene gli altri, " disse Shiva Vaidhyanathan, direttore del Center for Media and Citizenship presso l'Università della Virginia. "Fondamentalmente Facebook è fatto per una specie migliore della nostra. Se fosse fatto per i golden retriever, tutto sarebbe fantastico".
Ma se solo l'1% dei 2,4 miliardi di persone su Facebook vuole fare cose terribili agli altri, sono 24 milioni di persone.
"Ogni due settimane, sentiamo di Facebook che ha abbattuto pagine problematiche, fare promesse di assumere più persone, costruire AI e così via, "Ha detto Vaidhyanathan. "Ma su scala di Facebook, niente di tutto questo avrà importanza. Siamo praticamente bloccati con tutta questa spazzatura".
Chris Hughes, un co-fondatore di Facebook, ha chiesto lo scioglimento del gigante dei social media in un editoriale di giovedì. Vaidhyanathan pensa anche che una forte regolamentazione del governo potrebbe essere la risposta, come le leggi che "limitano la capacità delle aziende di assorbire tutti i nostri dati e utilizzarli per indirizzare la pubblicità".
"Dovremmo davvero occuparci del back-end di Facebook, " ha detto. "Questo è quello che devi attaccare."
© 2019 The Associated Press. Tutti i diritti riservati.
