Ci vuole molto per scioccare Kelvin Lay. Il mio amico e collega è stato responsabile della creazione delle prime unità africane dedicate allo sfruttamento minorile e al traffico di esseri umani, e per molti anni è stato ufficiale investigativo senior per il Child Exploitation Online Protection Center presso la National Crime Agency del Regno Unito, specializzato in procedimenti giudiziari extraterritoriali sui minori. sfruttamento in tutto il mondo.
Ma quello che è successo quando si è offerto volontario per una dimostrazione di un software di identificazione all’avanguardia lo ha lasciato senza parole. Dopo pochi secondi dall'immagine di come appare Lay oggi, l'app AI ha ricavato una serie vertiginosa di foto online di Lay che non aveva mai visto prima, comprese quelle sullo sfondo delle fotografie di qualcun altro scattate durante una partita di rugby dei British Lions ad Auckland otto. anni prima.
"È stato strabiliante", mi ha detto Lay. "E poi il manifestante è passato ad altre due foto, scattate su due spiagge separate—una in Turchia e un'altra in Spagna—probabilmente raccolte dai social media. Erano di un'altra famiglia ma con me, mia moglie e i miei due figli sullo sfondo. I bambini avrebbero avuto sei o sette anni; ora hanno 20 e 22 anni."
L’intelligenza artificiale in questione faceva parte di un arsenale di nuovi strumenti implementati a Quito, in Ecuador, a marzo, quando Lay ha lavorato con una task force di dieci paesi per identificare e localizzare rapidamente autori e vittime di sfruttamento e abuso sessuale di minori online:una pandemia nascosta con oltre 300 milioni di vittime ogni anno nel mondo.
È qui che entra in gioco il lavoro del Childlight Global Child Safety Institute, con sede presso l'Università di Edimburgo. Lanciato poco più di un anno fa, nel marzo 2023 con il sostegno finanziario della Human Dignity Foundation, la visione di Childlight è quella di utilizzare l'illuminazione potere dei dati e delle informazioni per comprendere meglio la natura e la portata dello sfruttamento e dell'abuso sessuale sui minori.
Sono un professore di ricerca internazionale sulla protezione dei minori e direttore dei dati di Childlight e da quasi 20 anni mi occupo di abusi sessuali e maltrattamenti sui minori, anche per conto della New York City Alliance Against Sexual Assault e dell'Unicef.
La lotta per mantenere i nostri giovani al sicuro e protetti dai pericoli è stata ostacolata da una disconnessione dei dati:i dati differiscono in qualità e coerenza in tutto il mondo, le definizioni differiscono e, francamente, la trasparenza non è quella che dovrebbe essere. Il nostro obiettivo è collaborare con molti altri per contribuire a integrare il sistema, colmare le lacune nei dati e far luce su alcuni dei crimini più oscuri del mondo.
Il nostro nuovo rapporto, Into The Light, ha prodotto le prime stime a livello mondiale sulla portata del problema in termini di vittime e autori del reato.
Le nostre stime si basano su una meta-analisi di 125 studi rappresentativi pubblicati tra il 2011 e il 2023 ed evidenziano che un bambino su otto (302 milioni di giovani) ha subito abusi e sfruttamento sessuale online nell'anno precedente le indagini nazionali.
Inoltre, abbiamo analizzato decine di milioni di segnalazioni inviate alle cinque principali organizzazioni di vigilanza e di polizia a livello mondiale:Internet Watch Foundation (IWF), National Center for Missing and Exploited Children (NCMEC), Canadian Centre for Child Protection (C3P), Associazione internazionale delle hotline Internet (INHOPE) e il database internazionale sullo sfruttamento sessuale minorile dell'Interpol (ICSE). Questo ci ha aiutato a comprendere meglio la natura delle immagini e dei video di abusi sessuali su minori online.
Anche se le enormi lacune nei dati indicano che questo è solo un punto di partenza e lungi dall'essere una cifra definitiva, i numeri che abbiamo scoperto sono scioccanti.
Abbiamo scoperto che quasi il 13% dei bambini nel mondo sono stati vittime di acquisizione, condivisione ed esposizione non consensuale di immagini e video di natura sessuale.
Inoltre, si stima che poco più del 12% dei bambini a livello globale sia stato oggetto di adescamento online, come discorsi sessuali indesiderati che possono includere sexting non consensuale, domande sessuali indesiderate e richieste di atti sessuali indesiderati da parte di adulti o altri giovani.
I casi sono aumentati vertiginosamente da quando il COVID ha cambiato le abitudini online del mondo. Ad esempio, la Internet Watch Foundation (IWF) ha riferito nel 2023 che il materiale pedopornografico in cui bambini della scuola primaria di età compresa tra i sette e i dieci anni venivano istruiti a compiere atti sessuali online era aumentato di oltre il 1.000% da quando il Regno Unito è entrato in lockdown.
L'organizzazione benefica ha sottolineato che durante la pandemia, migliaia di bambini sono diventati più dipendenti da Internet per imparare, socializzare e giocare e che questo è stato qualcosa che i predatori di Internet hanno sfruttato per costringere più bambini ad attività sessuali, a volte includendo anche amici o fratelli tramite webcam. e smartphone.
Si è verificato anche un forte aumento delle denunce di "sextortion finanziaria", con bambini ricattati a causa di immagini sessuali che gli autori degli abusi li hanno indotti a fornire con l'inganno, spesso con risultati tragici, con un'ondata di suicidi in tutto il mondo.
Questo abuso può anche utilizzare la tecnologia deepfake dell'intelligenza artificiale, notoriamente utilizzata di recente per generare false immagini sessuali della cantante Taylor Swift.
Le nostre stime indicano che poco più del 3% dei bambini a livello globale ha subito estorsioni sessuali nell'ultimo anno.
Questa pandemia di sfruttamento e abuso sessuale sui minori colpisce gli alunni di ogni classe, di ogni scuola, di ogni Paese e deve essere affrontata urgentemente come un’emergenza sanitaria pubblica. Come per tutte le pandemie, come quella del COVID e dell'AIDS, il mondo deve unirsi e fornire una risposta sanitaria pubblica immediata e globale.
Il nostro rapporto evidenzia anche un sondaggio che esamina un campione rappresentativo di 4.918 uomini di età superiore ai 18 anni che vivono in Australia, Regno Unito e Stati Uniti. Ha prodotto alcuni risultati sorprendenti. In termini di autori:
Internet ha consentito alle comunità di autori di reati sessuali di condividere facilmente e rapidamente immagini di abusi e sfruttamento dei minori su scala sconcertante e questo, a sua volta, aumenta la domanda di tali contenuti tra i nuovi utenti e aumenta i tassi di abuso sui minori, distruggendo innumerevoli vite.
Infatti, nel 2023 sono state presentate agli organi di vigilanza più di 36 milioni di segnalazioni di immagini sessuali online di bambini vittime di ogni forma di sfruttamento e abuso sessuale da parte di aziende come X, Facebook, Instagram, Google, WhatsApp e membri del pubblico. . Ciò equivale a un rapporto ogni singolo secondo.
Come ovunque nel mondo, l’Ecuador è nella morsa di questo problema moderno e transnazionale:la rapida diffusione dello sfruttamento sessuale dei minori e degli abusi online. Può vedere un molestatore, ad esempio, a Londra, pagare un altro violentatore in un posto come le Filippine per produrre immagini di atrocità contro un bambino che sono a loro volta ospitate da un data center nei Paesi Bassi e disperse istantaneamente in molti altri paesi.
Quando Lay, che è anche il direttore dell'impegno e del rischio di Childlight, era a Quito nel 2024, la legge marziale significava che un grande hotel normalmente occupato da turisti che affollavano le delizie delle Isole Galápagos, era stranamente silenzioso, ad eccezione di un gruppo di 40 forze dell'ordine. analisti, ricercatori e pubblici ministeri che avevano più di 15.000 immagini e video di abusi sessuali su minori da analizzare.
La cache dei file includeva materiale registrato annualmente presso le autorità, contenuti provenienti da dispositivi sequestrati e dal database del database International Child Sexual Exploitation (ICSE) dell'Interpol. I file erano potenzialmente collegati ad autori di reati in dieci paesi dell'America Latina e dei Caraibi:Argentina, Cile, Colombia, Costa Rica, Ecuador, El Salvador, Honduras, Guatemala, Perù e Repubblica Dominicana.
Lo sfruttamento minorile esiste in ogni parte del mondo ma, sulla base delle informazioni fornite da numerosi partner sul campo, stimiamo che la maggior parte dei paesi membri dell'Interpol non abbia la formazione e le risorse necessarie per rispondere adeguatamente alle prove di materiale pedopornografico condiviso con loro dalle organizzazioni. come il Centro nazionale per i bambini scomparsi e sfruttati (NCMEC). L'NCMEC è un organismo creato dal Congresso degli Stati Uniti per registrare ed elaborare le prove di materiale pedopornografico caricato in tutto il mondo e individuato, in gran parte, dai giganti della tecnologia. Tuttavia, riteniamo che questa mancanza di capacità significhi che milioni di segnalazioni che allertano le forze dell'ordine riguardo a materiale abusivo non vengono nemmeno aperte.
L'operazione in Ecuador, in collaborazione con il Centro internazionale per i bambini scomparsi e sfruttati (ICMEC) e la Homeland Security degli Stati Uniti, mirava a contribuire a cambiare la situazione aiutando le autorità a sviluppare ulteriori competenze e fiducia per identificare e localizzare gli autori di reati sessuali e salvare le vittime minorenni.
Al centro dell'operazione di Quito c'era il database dell'Interpol che contiene circa cinque milioni di immagini e video che gli investigatori specializzati di più di 68 paesi utilizzano per condividere dati e collaborare sui casi.
Utilizzando software di confronto di immagini e video, essenzialmente documenti di identità con foto che riconoscono istantaneamente l'impronta digitale delle immagini, gli investigatori possono confrontare rapidamente le immagini che hanno scoperto con le immagini contenute nel database. Il software può creare istantaneamente connessioni tra vittime, autori di abusi e luoghi. Inoltre, evita la duplicazione degli sforzi e fa risparmiare tempo prezioso consentendo agli investigatori di sapere se le immagini sono già state scoperte o identificate in un altro Paese. Finora ha contribuito a identificare più di 37.900 vittime in tutto il mondo.
Lay ha una significativa esperienza sul campo nell'utilizzo di queste risorse per aiutare Childlight a trasformare i dati in azione, fornendo recentemente consulenza tecnica alle forze dell'ordine in Kenya, dove i successi includono l'utilizzo dei dati per arrestare il pedofilo Thomas Scheller. Nel 2023, Scheller, 74 anni, è stato condannato a 81 anni di carcere. Il cittadino tedesco è stato dichiarato colpevole da un tribunale di Nairobi di tre capi d'imputazione di tratta di esseri umani, atti indecenti con minori e possesso di materiale pedopornografico.
Ma nonostante questi progressi nei dati, ci sono preoccupazioni sull’incapacità delle forze dell’ordine di tenere il passo con un problema troppo grande perché gli agenti possano arrestarlo per uscirne. È reso possibile dai progressi tecnologici emergenti, comprese le immagini di abusi generate dall'intelligenza artificiale, che minacciano di sopraffare le autorità con la loro portata.
A Quito, durante un pasto caldo della stagione delle piogge a base di encocado de pescado, un gustoso piatto regionale di pesce in salsa di cocco servito con riso bianco, Lay ha spiegato:"Questo non è certamente per isolare l'America Latina, ma è diventato chiaro che esiste un squilibrio nel modo in cui i paesi di tutto il mondo gestiscono i dati. Ce ne sono alcuni che si occupano praticamente di ogni segnalazione che arriva, e se non viene gestita e succede qualcosa, le persone possono perdere il lavoro. alcuni paesi ricevono migliaia di indirizzi e-mail al giorno che non vengono nemmeno aperti."
Ora stiamo vedendo prove che i progressi tecnologici possono essere utilizzati anche per combattere i predatori sessuali online. Ma l'uso di tale tecnologia solleva questioni etiche.
Il potente ma controverso strumento di intelligenza artificiale che ha lasciato Lay senza parole è stato un esempio calzante:uno dei molteplici strumenti di riconoscimento facciale AI arrivati sul mercato e con molteplici applicazioni. La tecnologia può aiutare a identificare le persone utilizzando miliardi di immagini recuperate da Internet, compresi i social media.
Secondo quanto riferito, un software di riconoscimento facciale basato sull’intelligenza artificiale come questo è stato utilizzato dall’Ucraina per sfatare falsi post sui social media, migliorare la sicurezza ai posti di blocco e identificare infiltrati russi, nonché soldati morti. Secondo quanto riferito, è stato utilizzato anche per identificare i rivoltosi che hanno preso d'assalto la capitale degli Stati Uniti nel 2021.
La rivista New York Times ha riportato un altro caso straordinario. Nel maggio 2019, un provider Internet ha allertato le autorità dopo che un utente aveva ricevuto immagini raffiguranti abusi sessuali su una giovane ragazza.
Un'immagine sgranata conteneva un indizio vitale:un volto adulto visibile sullo sfondo che la società di riconoscimento facciale è stata in grado di abbinare a un'immagine su un account Instagram con lo stesso uomo, sempre sullo sfondo. Ciò nonostante il fatto che l'immagine del suo volto sarebbe apparsa grande circa la metà di un'unghia umana durante la visualizzazione. Ha aiutato gli investigatori a individuare la sua identità e il luogo di Las Vegas in cui è stato scoperto che creava materiale pedopornografico da vendere sul dark web. Ciò ha portato al salvataggio di una bambina di sette anni e alla sua condanna a 35 anni di carcere.
Nel frattempo, da parte sua, il governo britannico ha recentemente sostenuto che il software di riconoscimento facciale può consentire alla polizia di “stare un passo avanti rispetto ai criminali” e rendere le strade della Gran Bretagna più sicure. Tuttavia, al momento, l'uso di tale software non è consentito nel Regno Unito.
Quando Lay si offrì volontario per consentire l'analisi delle sue caratteristiche, rimase sbalordito dal fatto che in pochi secondi l'app producesse una grande quantità di immagini, inclusa una che lo catturava sullo sfondo di una foto scattata durante la partita di rugby anni prima. Pensa a come gli investigatori possono individuare allo stesso modo un tatuaggio distintivo o uno sfondo insolito in cui si è verificato un abuso e il potenziale di questo come strumento di lotta alla criminalità è facile da apprezzare.
Naturalmente, è anche facile comprendere le preoccupazioni di alcune persone per motivi di libertà civili che hanno limitato l’uso di tale tecnologia in tutta Europa. Nelle mani sbagliate, cosa potrebbe significare tale tecnologia per un dissidente politico che si nasconde, ad esempio? Ad esempio, una startup cinese di riconoscimento facciale è stata messa sotto esame dal governo degli Stati Uniti per il suo presunto ruolo nella sorveglianza del gruppo di minoranza uigura.
Punti simili vengono talvolta sollevati dai grandi sostenitori della tecnologia della crittografia end-to-end su app popolari:app che vengono utilizzate anche per condividere file di abusi e sfruttamento minorile su scala industriale, spegnendo di fatto le luci su alcuni dei crimini più oscuri del mondo.
Perché, chiedi ai puristi della privacy, qualcun altro dovrebbe avere il diritto di conoscere i loro contenuti privati?
Pertanto, ad alcuni potrebbe sembrare che siamo arrivati a un punto kafkiano in cui il diritto alla privacy degli autori di abusi rischia di prevalere sui diritti alla privacy e alla sicurezza dei bambini di cui stanno abusando.
Chiaramente quindi, se la crittografia delle più diffuse app di condivisione file deve diventare la norma, è necessario trovare un equilibrio che soddisfi il desiderio di privacy di tutti gli utenti, con il rilevamento proattivo di materiale pedopornografico online.
Meta ha recentemente dimostrato che esiste il potenziale per un compromesso che potrebbe migliorare la sicurezza dei bambini, almeno in una certa misura. Instagram, recentemente descritta dall'NSPCC come la piattaforma più utilizzata per l'adescamento, ha sviluppato un nuovo strumento volto a bloccare l'invio di immagini sessuali ai bambini, anche se, in particolare, le autorità non verranno avvisate di coloro che inviano il materiale.
Ciò comporterebbe la cosiddetta scansione lato client che, secondo Meta, mina la principale caratteristica di protezione della privacy della crittografia:solo il mittente e il destinatario conoscono il contenuto dei messaggi. Meta ha affermato di segnalare all'NCMEC tutti i casi evidenti di sfruttamento minorile presenti sul suo sito da qualsiasi parte del mondo.
Un compromesso con l’uso dell’intelligenza artificiale per individuare i trasgressori, suggerisce Lay, è semplice:garantire che possa essere utilizzata solo sotto rigorosa licenza di professionisti della protezione dei minori con controlli adeguati in atto. Non è "una soluzione miracolosa", mi ha spiegato. L'identificazione basata sull'intelligenza artificiale dovrà sempre essere seguita dal lavoro di polizia vecchio stile, ma tutto ciò che può "ottenere in 15 secondi ciò che prima passavamo ore e ore cercando di ottenere" merita un'attenta considerazione, a suo avviso.
L’operazione in Ecuador, che combina l’intelligenza artificiale con il lavoro tradizionale, ha avuto un impatto immediato a marzo. L'ICMEC riferisce che ha portato all'identificazione positiva di un totale di 115 vittime (principalmente ragazze e per lo più di età compresa tra 6-12 e 13-15 anni) e 37 autori di reato (principalmente uomini adulti) in tutto il mondo. Nel giro di tre settimane, l'ICMEC ha affermato che sono stati effettuati 18 interventi internazionali, con 45 vittime salvate e sette autori di abusi arrestati.
In un modo o nell’altro, è necessario raggiungere un compromesso per affrontare questa pandemia. "L'abuso sessuale sui minori è una crisi sanitaria pubblica globale che sta peggiorando costantemente grazie alle tecnologie avanzate che consentono la produzione istantanea e la distribuzione illimitata di materiale di sfruttamento minorile, nonché l'accesso non regolamentato ai bambini online."
Queste sono le parole della Tasmaniana Grace Tame:una straordinaria sopravvissuta agli abusi infantili e direttrice esecutiva della Grace Tame Foundation che lavora per combattere gli abusi sessuali sui bambini.
"Come innumerevoli vittime di abusi sessuali su minori, la mia vita è stata completamente sconvolta dagli impatti duraturi del trauma, della vergogna, dell'umiliazione pubblica, dell'ignoranza e dello stigma. Mi sono trasferita all'estero a 18 anni perché sono diventata una paria nella mia città natale, non ho conseguito l'istruzione terziaria ha ricevuto l'istruzione come sperato, ha abusato di alcol e droghe, si è autolesionista e ha svolto diversi lavori con salario minimo." Tame ritiene che "un database di ricerca globale centralizzato sia essenziale per salvaguardare i bambini".
Se Internet e la tecnologia ci hanno portato dove siamo oggi, l’intelligenza artificiale utilizzata a Quito per salvare 45 bambini è una potente dimostrazione del potere positivo della tecnologia. Inoltre, il lavoro della task force composta da dieci paesi testimonia il potenziale delle risposte globali a un problema globale su un Internet che non conosce confini nazionali.
Maggiore collaborazione, istruzione e, in alcuni casi, regolamentazione e legislazione possono essere d'aiuto e sono necessarie senza indugio perché, come recita il mantra di Childlight, i bambini non possono aspettare.
Fornito da The Conversation
Questo articolo è ripubblicato da The Conversation sotto una licenza Creative Commons. Leggi l'articolo originale. 
