Più di un decennio fa, L'analista di Internet e studioso di nuovi media Clay Shirky ha dichiarato:"L'unico vero modo per porre fine allo spam è chiudere le comunicazioni e-mail". Chiudere Internet sarà l'unico modo per porre fine alla propaganda dei deepfake nel 2020?

Oggi, chiunque può creare le proprie fake news e anche romperle. La propaganda online è più fuorviante e manipolativa che mai.

Deepfake, una forma specifica di disinformazione che utilizza algoritmi di apprendimento automatico per creare audio e video di persone reali che dicono e fanno cose che non hanno mai detto o fatto, si stanno muovendo rapidamente verso l'essere indistinguibili dalla realtà.

Rilevare la disinformazione alimentata da usi non etici dei media digitali, big data e intelligenza artificiale, e la loro diffusione attraverso i social media, è della massima urgenza.

I paesi devono educare ed equipaggiare i propri cittadini. Gli educatori affrontano anche vere sfide nell'aiutare i giovani a sviluppare occhi d'aquila per i deepfake. Se i giovani non hanno fiducia nella ricerca e nella valutazione di informazioni pubbliche affidabili, la loro motivazione a partecipare oa fare affidamento sulle nostre strutture democratiche sarà sempre più a rischio.

Minare la democrazia

Ora è possibile generare un video di una persona che parla e fa espressioni ordinarie da poche o anche da una singola immagine del viso di questa persona. Le app di scambio di volti come FaceApp e le app di sincronizzazione labiale come Dubsmash sono esempi di strumenti deepfake di base di facile utilizzo e accessibili che le persone possono utilizzare senza alcun background di programmazione o codifica.

Sebbene l'uso di questa tecnologia possa rapire o stordire gli spettatori per le sue rappresentazioni esperte nei settori dell'intrattenimento e dei giochi, il volto sinistro dei deepfake è una seria minaccia sia per la sicurezza delle persone che per la democrazia.

Il potenziale di utilizzo dei deepfake come arma sta aumentando in modo allarmante e si possono prevedere molti danni in base alla capacità delle persone di creare contenuti espliciti senza il consenso degli altri.

Si prevede che le persone utilizzeranno i deepfake per il cyberbullismo, distruggere la reputazione, ricatto, diffondere incitamenti all'odio, incitare alla violenza, interrompere i processi democratici, diffondere disinformazione a un pubblico mirato e commettere crimini informatici e frodi.

Rilevamento deepfake

I giocatori chiave si sono avventurati nella ricerca di una risposta alle minacce deepfake.

Facebook ha annunciato il 6 gennaio che "rafforzerà la sua politica nei confronti di video manipolati fuorvianti che sono stati identificati come deepfake". La società afferma che rimuoverà i media manipolati che sono stati "modificati o sintetizzati, al di là degli aggiustamenti per chiarezza o qualità, in modi che non sono evidenti per una persona media" e se i media sono "il prodotto dell'intelligenza artificiale o dell'apprendimento automatico che si fonde , sostituisce o sovrappone contenuti a un video, facendolo sembrare autentico."

La notizia segue la "sfida deepfake" di Facebook, " che mira a progettare nuovi strumenti in grado di rilevare i contenuti multimediali manipolati. La sfida è supportata da Microsoft, un consorzio sull'intelligenza artificiale e un fondo di 10 milioni di dollari.

A fine ottobre, Il CEO di Facebook Mark Zuckerberg ha testimoniato a un'audizione del Comitato per i servizi finanziari della Camera dei rappresentanti degli Stati Uniti a Washington sui piani di criptovaluta dell'azienda, dove Zuckerberg ha affrontato domande su cosa sta facendo l'azienda per prevenire i deepfake.

La Defense Advanced Research Projects Agency (DARPA) del Dipartimento della Difesa degli Stati Uniti sta lavorando sull'utilizzo di specifici tipi di algoritmi per valutare l'integrità dei media visivi digitali.

Alcuni ricercatori discutono dell'uso delle reti neurali convoluzionali, un insieme di algoritmi che replicano vagamente il cervello umano, progettato per analizzare le immagini visive e riconoscere i modelli, per rilevare le incongruenze tra più frame nei deepfake. Altri propongono algoritmi per rilevare volti completamente generati.

Hani Farid, un esperto di digital forensics e una delle principali autorità nel rilevamento di foto false, e il suo studente Shruti Agarwal all'Università della California, Berkeley sta sviluppando un software che utilizza le sottili caratteristiche di come una persona parla per distinguere questa persona dalla versione falsa.

Farid sta anche collaborando a stretto contatto con il pioniere del deepfake Hao Li per affrontare il problema di "un inganno sempre più semplice e immediato".

nazione di YouTube

E se domani ci svegliassimo con un deepfake di Greta Thunberg, Tempo Persona dell'anno 2019 della rivista, accusare un'organizzazione specifica di essere il principale catalizzatore del cambiamento climatico? Qualche giovane sarebbe scettico riguardo all'informazione?

Viviamo in un'era digitale in cui molte persone si aspettano che ogni risposta venga trovata tramite una ricerca su Google, un video di YouTube o Vimeo o un TED talk. Quasi il 100% dei giovani canadesi tra i 15 ei 24 anni utilizza Internet quotidianamente. La maggior parte segue notizie e attualità attraverso piattaforme di social media come Facebook, Twitter e Instagram.

Nel 2017, Il 90% dei canadesi di età compresa tra 18 e 24 anni erano utenti attivi di YouTube.

Secondo Statista, un'azienda che fornisce dati di mercato e di consumo, "a partire da maggio 2019, più di 500 ore di video sono state caricate su YouTube ogni minuto, " pari a "circa 30, 000 ore di nuovi contenuti caricati all'ora." La società riferisce che tra il 2014 e il 2019 "il numero di ore di contenuti video caricati ogni 60 secondi è cresciuto di circa il 40 percento".

Molti degli utenti di social media di oggi dai 18 ai 24 anni riconoscono le agende e gli algoritmi dietro i post che compaiono sui loro muri. Nel mio dottorato di ricerca ricerca di tesi, Ho esplorato come 42 partecipanti di questa fascia di età comprendessero i rifugiati in un contesto in cui le idee sui rifugiati erano profondamente influenzate dalla propaganda sui social media, notizie false e disinformazione. Ho scoperto che molti desideravano diventare influencer e interrompere i commenti pubblici e i messaggi generati dai media in modi che risuonano con le campagne di advocacy o attiviste oggi guidate dai giovani.

Il fenomeno dei deepfake è una nuova sfida critica che, e tutti i partecipanti alle nostre democrazie, ora faccia.

Educazione alla resilienza

In Canada, I giornalisti per i diritti umani hanno annunciato un nuovo programma, finanziato da Heritage Canada, formare i giornalisti e migliorare la "preparazione dei cittadini contro la manipolazione e la disinformazione online".

Gli educatori possono svolgere un ruolo chiave nel promuovere l'agenzia giovanile per rilevare i deepfake e ridurre la loro influenza. Una sfida è garantire che i giovani apprendano competenze fondamentali di alfabetizzazione mediatica mentre continuano a esplorare preziose risorse online e a sviluppare le proprie capacità e conoscenze per partecipare a strutture democratiche.

Seguendo i passaggi che ho identificato nel modello "Preparati ad agire contro la propaganda sui social media", iniziando con la spiegazione delle posizioni su una questione controversa presa di mira attraverso la propaganda sui social media, gli educatori possono aiutare i giovani a discutere su come percepiscono e riconoscono i deepfake. Possono esplorare le origini del contenuto, chi sta prendendo di mira, la reazione che sta cercando di ottenere e chi c'è dietro.

Possono anche discutere il ruolo e la responsabilità dei giovani nel rispondere e resistere alla disinformazione e alle potenziali strategie digitali da perseguire in questo processo. Una generazione di cittadini digitali ben attrezzata potrebbe essere la nostra migliore scommessa.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.