La nuova policy di Twitter mira a frenare la diffusione di contenuti "sintetici e manipolati" inclusi i cosiddetti video "deepfake" alterati utilizzando l'intelligenza artificiale
Twitter ha svelato un piano martedì per frenare la diffusione di contenuti manipolati, compresi i video "deepfake", come parte di una mossa per combattere la disinformazione che potrebbe provocare violenza o altri danni.
La politica è stata annunciata dopo che Twitter ha chiesto commenti lo scorso anno sui modi per ridurre i "media sintetici e manipolati" sulla piattaforma online che potrebbero ingannare le persone durante le campagne elettorali o provocare violenza o danni fisici.
Twitter, che insieme ad altre piattaforme social ha faticato a rispondere alle preoccupazioni sulla disinformazione, ha affermato che la sua nuova politica richiede un mix di "etichette" di avvertimento per i tweet che includono immagini o video manipolati, e rimozione dei tweet.
La mossa arriva tra le crescenti preoccupazioni per i video "deepfake" modificati utilizzando l'intelligenza artificiale, insieme ad altri tipi di manipolazione per ingannare gli utenti dei social media.
Il vicepresidente per la fiducia e la sicurezza di Twitter, Del Harvey, ha affermato che la nuova politica affronta non solo i deepfake ma anche altri tipi di manipolazione, a volte descritti come "falsi superficiali" o "falsi economici".
"Questa non è una regola deepfake, " lei disse.
"Vogliamo affrontare qualsiasi incidente in cui i media siano stati alterati o fabbricati".
La decisione se includere un'etichetta o rimuovere il contenuto dipenderà "dalla probabilità e dalla gravità del danno che potrebbe derivare, "Ha detto Harvey durante una telefonata con i giornalisti.
Twitter ha dichiarato in un post sul blog che avrebbe iniziato a far rispettare la nuova politica il 5 marzo, avvisare gli utenti di immagini o video manipolati, e talvolta compensandoli con collegamenti a ulteriori informazioni sugli argomenti.
Twitter afferma che inserirà etichette di avvertimento sui video falsi pubblicati con l'intento di ingannare le persone, e in alcuni casi rimuovere il contenuto
"Non puoi condividere in modo ingannevole contenuti multimediali sintetici o manipolati che potrebbero causare danni, ", hanno affermato nel post sul blog il product manager del gruppo Ashita Achuthan e il capo dell'integrità del sito Yoel Roth.
"Inoltre, possiamo etichettare i tweet contenenti media sintetici e manipolati per aiutare le persone a comprendere l'autenticità dei media e per fornire un contesto aggiuntivo".
Politici inclusi
La nuova regola si applicherà ai politici e alle loro campagne, secondo Harvey.
"Se i media sono alterati o fabbricati, indipendentemente da chi sia l'individuo, questa politica sarà ancora valida, " lei disse.
Sotto la politica, Per esempio, i video falsificati dell'ex vicepresidente degli Stati Uniti Joe Biden e della presidentessa democratica della Camera dei rappresentanti Nancy Pelosi che hanno causato recenti polemiche sui social media violerebbero la nuova regola, secondo i dirigenti di Twitter.
"Sia che tu stia utilizzando strumenti avanzati di apprendimento automatico o utilizzando un'app da 99 cent per rallentare i video sul tuo telefono, le nostre regole si applicano al contenuto non al modo in cui il risultato è stato raggiunto, " ha detto Roth.
"Il tweet finale genera confusione o incomprensione o provoca un tentativo deliberato di fuorviare le persone? Questa è la domanda."
L'annuncio arriva un giorno dopo che YouTube ha dichiarato che rimuoverà i video relativi alle elezioni che sono "manipolati o falsificati" per fuorviare gli elettori, tra le crescenti preoccupazioni sugli sforzi per diffondere la disinformazione che potrebbe influenzare le elezioni in tutto il mondo.
Facebook, che ha le sue politiche sulla disinformazione, a gennaio ha dichiarato che avrebbe vietato i video deepfake pur consentendo clip pesantemente modificate purché fossero parodie o satira.
Le piattaforme di social media sono state sotto pressione per sradicare la disinformazione, comprese immagini e video manipolati
Filtraggio per i falsi
I fattori che Twitter valuterà quando deciderà quale contenuto è manipolato in modo ingannevole o completamente fabbricato includerà quanto pesantemente viene modificato; se l'audio è stato doppiato o rimosso, e se quelli nella foto sono simulazioni.
Nell'elenco dei contenuti vietati c'erano anche minacce alla privacy o alla libera espressione sotto forma di "stalking o attenzione indesiderata e ossessiva; contenuti mirati che includono tropi, epiteti, o materiale che mira a mettere a tacere qualcuno; soppressione o intimidazione degli elettori".
Roth ha affermato che Twitter cercherà di essere "proattivo" nella politica "per ridurre l'onere delle persone da segnalarci".
Oltre a mostrare etichette di avvertenza sulle immagini ritoccate prima che vengano "mi piace" o condivise, Twitter ne impedirà l'inclusione nei contenuti consigliati e in genere fornirà informazioni aggiuntive volte a contrastare le percezioni errate.
Twitter ha affermato che la nuova regola si basa su un sondaggio tra gli utenti statunitensi e sul feedback di persone di tutto il mondo che sono intervenute utilizzando i tweet.
Globalmente, oltre il 70 percento degli utenti di Twitter che hanno espresso opinioni ha affermato che non intraprendere alcuna azione su tweet falsificati in modo abusivo sarebbe inaccettabile, secondo Achuthan e Roth.
© 2020 AFP
