Il recente video virale "deepfake" di Mark Zuckerberg che dichiara, "chi controlla i dati controlla il mondo" non era un'imitazione particolarmente convincente del CEO di Facebook, ma ha avuto un successo spettacolare nel focalizzare l'attenzione sulla minaccia della manipolazione dei media digitali.

Mentre i falsi fotografici sono in circolazione dagli albori della fotografia, l'utilizzo più recente di tecniche di intelligenza artificiale di deep learning (il "deep" nei deepfake) sta portando alla realizzazione di simulazioni al computer sempre più credibili.

Il video di Zuckerberg ha attirato l'attenzione online sia perché presentava il prodigio della tecnologia che è parzialmente responsabile dell'inondazione del mondo di notizie false, e perché ha evidenziato la tecnologia che sicuramente peggiorerà il problema.

I "falsi positivi" non sono l'unico problema

Abbiamo visto il dolore e la tragedia che le falsità virali possono causare, dalle molestie ai genitori che hanno perso i bambini nella sparatoria di Sandy Hook, per omicidi di mafia in India e altrove.

Deepfake, ci preoccupiamo, peggiorerà solo il problema. E se venissero usati per coinvolgere falsamente qualcuno in un omicidio? Per fornire ordini falsi alle truppe sul campo di battaglia? O per incitare al conflitto armato?

Potremmo descrivere tali eventi come i "falsi positivi" della profonda falsificazione:eventi che sembravano accadere, ma non l'ho fatto. D'altra parte, ci sono i "falsi negativi":eventi accaduti, ma che corrono il rischio di essere liquidati come un altro falso.

Pensa all'affermazione del presidente degli Stati Uniti Donald Trump secondo cui la voce nel famigerato nastro di Access Hollywood, in cui si vanta di palpeggiare le donne, non era suo. Trump ha fatto di una specialità politica chiedere alle persone di non credere ai propri occhi o alle proprie orecchie. Ha ingannato le persone sulla dimensione del pubblico alla sua inaugurazione, e ha detto che non ha chiamato Meghan Markle "cattiva" in un'intervista quando lo ha fatto.

Questa strategia funziona mettendo in discussione tutte le prove mediate. Questo è, tutto ciò che non sperimentiamo direttamente noi stessi, e anche molto di ciò che facciamo nella misura in cui non è condiviso da altri.

Ciò che è in discussione è la nostra capacità di comunicarci le verità l'un l'altro e di generare un consenso intorno ad esse. Questa posta in gioco è davvero alta, poiché la democrazia si basa sull'efficacia di dire la verità al potere. Se, come Il guardiano mettilo, "i deepfake sono dove la verità va a morire, "Poi minacciano di prendersi la responsabilità pubblica con loro.

L'aumento della sorveglianza non è la risposta

Poiché il problema sembra essere tecnologico, si è tentati di cercare tecnologia, piuttosto che sociale o politico, soluzioni. Tipicamente, queste soluzioni proposte assumono la forma di una verifica rafforzata, che comporta una sorveglianza sempre più completa.

Un'idea è quella di fare in modo che ogni fotocamera tagghi automaticamente le immagini con una firma digitale univoca. Ciò consentirebbe di far risalire le immagini al dispositivo che le ha scattate, e, nel caso di dispositivi in ​​rete, al suo utente o proprietario. Un commentatore ha descritto questo come "il sogno di uno stato di sorveglianza".

Oppure potremmo immaginare un mondo in cui l'ambiente costruito è permeato da più telecamere, catturare e costruire costantemente una realtà "condivisa" che può essere utilizzata per sfatare i video falsi man mano che emergono. Questo non sarebbe solo il sogno di uno stato di sorveglianza, ma la sua fantasia si è realizzata.

Il fatto che tali soluzioni non siano solo distopiche, ma anche non riescono ad affrontare efficacemente il problema (poiché le firme possono essere falsificate, e la versione "ufficiale" della realtà può essere liquidata come l'ennesimo falso), non ci rende meno propensi a perseguirli.

L'ulteriore difetto di tali soluzioni è che presumono che le persone e le piattaforme che circolano informazioni false si rimandino alla verità quando vengono confrontate con essa.

Le persone credono in ciò che vogliono credere

Conosciamo le piattaforme di social media, fino a quando non saranno ritenuti responsabili della verifica delle informazioni che circolano, avere un incentivo a promuovere ciò che attira maggiormente l'attenzione, indipendentemente dalla sua autenticità. Siamo più riluttanti ad ammettere che lo stesso vale per le persone.

Nell'economia dell'attenzione online, non sono solo le piattaforme a trarre vantaggio dalla circolazione di disinformazione sensazionale, sono anche le persone che li usano.

Consideriamo il caso del giornalista islamico con sede a Londra Hussein Kesvani. Kesvani racconta la volta in cui ha rintracciato un troll di Twitter chiamato "True Brit" che lo aveva tempestato di commenti e meme islamofobici. Dopo aver stabilito una normale conversazione online con il suo antagonista online, Kesvani è stato in grado di ottenere un'intervista faccia a faccia con lui.

Ha chiesto a True Brit perché era disposto a far circolare fatti dimostrabilmente falsi, affermazioni, e immagini erroneamente etichettate e fuorvianti. Il vero Brit si è scrollato di dosso la domanda, detto, "Non sai cosa è vero o no in questi giorni, comunque." Non gli importava della verità letterale, solo sulla verità emotiva "più profonda" delle immagini, che sentiva confermare i suoi pregiudizi.

Le strategie di verifica possono essere utili per far crescere la società di sorveglianza, ma avranno poca presa sui veri britannici del mondo che sono disposti ad abbracciare e far circolare deepfake perché credono che le loro bugie contengano verità più profonde. Il problema non sta solo nella tecnologia, ma nella versione degradata della vita civile su cui prosperano le piattaforme di social media.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.