L'ultima mania delle app fotografiche può farti sembrare una star del cinema. Zao utilizza l'intelligenza artificiale per sostituire i volti dei personaggi nei film o nelle clip TV con le immagini di chiunque carichi la foto nell'app.

L'effetto è sorprendentemente realistico e mostra quanto lontano sia arrivato questo tipo di tecnologia "deepfake". Ma evidenzia anche quanto siano grandi i rischi di rendere le tue foto disponibili online dove chiunque può usarle o abusarne, e i limiti della legge nell'affrontare questo problema.

Uno dei problemi principali è il diritto legale che le aziende hanno di utilizzare le tue foto una volta che le hai caricate sulle loro app o sui loro siti web. Diversi resoconti dei media affermano che i termini e le condizioni di Zao inizialmente lo davano "gratuito, irrevocabile, permanente, trasferibile, e rilicenziabili". Un contraccolpo contro questo ha ora spinto l'azienda che produce l'app, Momo Inc, per cambiarne i termini. Dice che non utilizzerà colpi alla testa o video caricati dagli utenti se non per migliorare l'app e non memorizzerà le immagini se gli utenti le eliminano dai loro account.

Ma molte altre applicazioni fotografiche, come l'età o FaceApp che cambia genere, mantengono diritti simili per fare effettivamente ciò che vogliono con il contenuto caricato. Con "un perpetuo, irrevocabile, non esclusivo, esente da diritti, In tutto il mondo, pagato interamente, licenza trasferibile in sublicenza, " FaceApp ottiene essenzialmente tutti i diritti del proprietario originale sulla foto (tranne che non ha una licenza esclusiva).

Questi termini non sono dissimili da quelli di app ancora più popolari e mainstream come Instagram, che apre il suo feed di foto agli inserzionisti. Instagram può consentire ad altre aziende di sfruttare le foto degli utenti senza alcun compenso e trasferire ulteriormente questo diritto a terzi senza ulteriori autorizzazioni.

E, Certo, non devi nemmeno dare il permesso a qualcuno di usare le tue foto per farlo comunque. Una volta online, le tue immagini possono essere diffuse a tua insaputa. Gli studi hanno dimostrato che la comprensione da parte delle persone delle impostazioni sulla privacy online rimane ampiamente limitata. Se le impostazioni sulla privacy non sono sufficienti, chiunque potrebbe accedere alle tue foto.

Questo può includere giornalisti, chi può ripubblicare immagini dai social senza necessariamente violare le leggi sulla privacy se le immagini sono già entrate nel pubblico dominio. Le foto sono ancora protette dalla legge sul diritto d'autore, ma a volte le immagini tratte dai video possono essere pubblicate in base a disposizioni sul "fair dealing". che la pubblicazione non dovrebbe rimuovere automaticamente se un utente eliminasse la foto originale.

Lo sviluppo dell'intelligenza artificiale rende ancora maggiori le potenziali conseguenze della rinuncia al controllo delle tue foto. La tecnologia deepfake utilizzata da Zao e da altre app può creare foto e video manipolati che sono molto difficili da distinguere dalla realtà.

Questo ha già portato alla pornografia deepfake, che prevede la sovrapposizione del volto di qualcuno su immagini esplicite utilizzando una tecnica di sintesi basata sull'intelligenza artificiale. Questo tipo di abuso online può esporre le vittime a ricatti finanziari o emotivi e alla fine causare loro gravi danni psicologici ed emotivi.

Ricorso legale

Se scopri che la tua immagine è stata utilizzata in modi che non avresti mai voluto, come può aiutare la legge? Se si tratta semplicemente dell'utilizzo dell'immagine entro i termini e le condizioni che hai accettato (e nessun'altra legge è stata violata), probabilmente non hai molto ricorso. Sotto il "diritto all'oblio" dell'UE, " potresti chiedere che le tue foto vengano eliminate dai server di un'azienda in modo che non possano utilizzarle ulteriormente, anche se questo non è un diritto assoluto.

Ma l'avvento delle app AI crea un altro problema. Mentre un'azienda può eliminare le tue immagini dai propri server, potrebbe essere impossibile rimuovere i relativi dati dal software AI che ha elaborato e appreso dalle immagini. Questi dati possono essere effettivamente non disponibili ma non possono essere veramente "dimenticati".

Ci sono altri modi in cui la legge sembra non essere al passo con l'evoluzione delle immagini alterate dall'intelligenza artificiale, in particolare quando vengono utilizzati per scopi abusivi e offensivi. Nel Regno Unito, la recente legge sulla "pornografia per vendetta" si applica solo alle immagini sessuali private, che potrebbero non includere fotografie non private trasposte su un'immagine sessuale di un'altra persona.

Potrebbero esserci altre opzioni per coloro che cadono vittime della creazione di pornografia deepfake. Il fatto che persone siano state condannate per aver pubblicato immagini di altre persone su siti web pornografici dimostra che in determinate circostanze si può fare affidamento anche sulla legge sulle molestie. Potrebbe anche essere possibile presentare reclami per uso improprio di informazioni private, diffamazione o violazione del diritto d'autore.

Se qualcuno ti induce con l'inganno a concedere l'accesso al tuo profilo sui social media e a scattare foto per generare immagini pornografiche false, potresti anche impegnarti nella legislazione sulla protezione dei dati. Ma è discutibile se le azioni legali civili come la diffamazione o la privacy riconoscano adeguatamente il danno che può essere fatto con i deepfake in un modo che farebbe un'accusa penale specifica, e finora tale accusa non esiste.

L'avvento dei social media ha fondamentalmente sfidato le nostre aspettative su come controlliamo le nostre fotografie. L'attuale mosaico di disposizioni legali deve essere rivisto per considerare i modi emergenti in cui le immagini vengono create e condivise senza il consenso del soggetto, in modo che questi problemi siano affrontati più ampiamente con un impatto duraturo. Insieme a un nuovo quadro normativo per la sicurezza online, gli utenti devono essere educati ad apprezzare i rischi dell'attività online ea navigare responsabilmente negli spazi online.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.