Facebook dice che sta vietando i video "deepfake", le clip false ma realistiche create con intelligenza artificiale e strumenti sofisticati, mentre intensifica gli sforzi per combattere la manipolazione online. Ma la politica lascia molte scappatoie.

Il social network ha detto lunedì tardi che sta rafforzando le sue politiche per rimuovere i video modificati o sintetizzati in modi che non sono evidenti alla persona media, e che potrebbe indurre qualcuno a pensare che il soggetto del video abbia detto qualcosa che in realtà non ha detto.

Creato dall'intelligenza artificiale o dall'apprendimento automatico, i deepfake combinano o sostituiscono i contenuti per creare immagini che possono essere quasi impossibili da dire non autentiche.

"Anche se questi video sono ancora rari su Internet, rappresentano una sfida significativa per la nostra industria e la nostra società poiché il loro uso aumenta, "Vicepresidente di Facebook per la gestione delle politiche globali, Monika Bickert, detto in un post sul blog.

Però, ha detto che le nuove regole non includeranno la parodia o la satira, o clip modificati solo per cambiare l'ordine delle parole. Le eccezioni sottolineano l'azione di bilanciamento che Facebook e altri servizi di social media devono affrontare nella loro lotta per fermare la diffusione della disinformazione online e delle "notizie false", rispettando al contempo la libertà di parola e respingendo le accuse di censura.

L'azienda tecnologica statunitense è alle prese con come gestire l'ascesa dei deepfake dopo aver affrontato le critiche lo scorso anno per aver rifiutato di rimuovere un video falsificato della presidentessa della Camera Nancy Pelosi che farfugliava le sue parole, che è stato visto più di 3 milioni di volte. Gli esperti hanno affermato che la clip modificata in modo grossolano era più un "falso economico" che un deepfake.

Quindi, una coppia di artisti ha pubblicato filmati falsi del CEO di Facebook Mark Zuckerberg che lo mostrano gongolante per il suo dominio personale sul mondo. Anche Facebook ha lasciato quella clip online. La società ha dichiarato all'epoca che nessuno dei due video violava le sue politiche.

Il problema dei video alterati sta assumendo una crescente urgenza poiché esperti e legislatori cercano di capire come impedire che i deepfake vengano utilizzati per interferire con le elezioni presidenziali statunitensi di novembre.

La nuova politica è un "punto di partenza forte, " ma non affronta problemi più ampi, disse Sam Gregory, direttore del programma presso Witness, un'organizzazione senza scopo di lucro che lavora sull'utilizzo della tecnologia video per i diritti umani.

"La realtà è che non ci sono molti deepfake politici al momento. Sono principalmente immagini sessuali non consensuali, " e il problema più grande sono i video che vengono mostrati senza contesto o leggermente modificati, che alcuni hanno soprannominato "falsi superficiali, " ha detto. Questi includono la clip di Pelosi o quella che ha fatto il giro la scorsa settimana del candidato presidenziale democratico Joe Biden che è stata modificata selettivamente per suggerire falsamente che avesse fatto commenti razzisti.

Gregorio, il cui gruppo era tra quelli che hanno fornito feedback a Facebook per la politica, ha detto che mentre le nuove regole sembravano forti sulla carta, ci sono domande sull'efficacia dell'azienda nello scoprire video sintetici.

Facebook ha creato algoritmi di rilevamento dei deepfake e può anche esaminare il comportamento di un account per avere un'idea della sua intenzione di diffondere disinformazione, quindi l'azienda avrà un vantaggio rispetto agli utenti o ai giornalisti nel fiutarli, disse Gregorio.

Ma quegli algoritmi non sono stati ampiamente utilizzati per i deepfake "in natura. Quindi è una domanda aperta quanto sarà efficace il rilevamento, " ha detto. "Questo è un tipo di gioco algoritmico del gatto col topo, dove i falsi miglioreranno insieme al rilevamento."

Facebook ha detto che tutti i video, deepfake o no, verranno rimossi anche se violano gli standard esistenti per la nudità, violenza esplicita o incitamento all'odio. Quelli che non vengono rimossi possono comunque essere esaminati da verificatori di fatti di terze parti indipendenti e qualsiasi ritenuto falso verrà segnalato come tale alle persone che cercano di condividerli o visualizzarli, che Bickert ha detto che era un approccio migliore del semplice abbatterli.

"Se rimuovessimo semplicemente tutti i video manipolati contrassegnati dai fact-checker come falsi, i video sarebbero ancora disponibili altrove su Internet o sull'ecosistema dei social media, " Ha detto Bickert. "Lasciandoli in piedi ed etichettandoli come falsi, stiamo fornendo alle persone informazioni e contesto importanti."

Twitter, che è stato un altro focolaio di disinformazione e video alterati, ha detto che è "in procinto" di creare una politica per "media sintetici e manipolati, " che includerebbe deepfake e altri video falsificati. La società ha chiesto un feedback pubblico sul problema. Le risposte che sta valutando includono l'inserimento di un avviso accanto ai tweet che includono materiale manipolato. I tweet potrebbero anche essere rimossi se sono fuorvianti e potrebbero causare gravi danni a qualcuno.

Youtube, nel frattempo, ha una politica contro le "pratiche ingannevoli", ma non sembra vietare specificamente i deepfake. Google non ha risposto immediatamente a un messaggio di commento martedì.

© 2020 The Associated Press. Tutti i diritti riservati.