I contenuti audio o video falsi sono stati classificati dagli esperti come l'uso più preoccupante dell'intelligenza artificiale in termini di potenziali applicazioni per la criminalità o il terrorismo, secondo un nuovo rapporto dell'UCL.

Lo studio, pubblicato in Scienza del crimine e finanziato dal Dawes Center for Future Crime presso l'UCL (e disponibile come briefing politico), identificato 20 modi in cui l'IA potrebbe essere utilizzata per facilitare la criminalità nei prossimi 15 anni. Questi sono stati classificati in ordine di preoccupazione, in base al danno che potrebbero causare, il potenziale di profitto o guadagno criminale, quanto sarebbero facili da eseguire e quanto sarebbe difficile da fermare.

Gli autori hanno affermato che i contenuti falsi sarebbero difficili da rilevare e fermare, e che potrebbe avere una varietà di scopi, dal screditare un personaggio pubblico all'estrarre fondi impersonando il figlio o la figlia di una coppia in una videochiamata. Tale contenuto, loro hanno detto, può portare a una diffusa sfiducia nei confronti delle prove audio e visive, che di per sé sarebbe un danno per la società.

A parte i contenuti falsi, altri cinque crimini abilitati all'intelligenza artificiale sono stati giudicati di grande preoccupazione. Questi usavano veicoli senza conducente come armi, aiutando a creare messaggi di phishing più personalizzati (spear phishing), interrompere i sistemi controllati dall'intelligenza artificiale, raccolta di informazioni online ai fini del ricatto su larga scala, e notizie false create dall'intelligenza artificiale.

L'autore senior, il professor Lewis Griffin (UCL Computer Science), ha dichiarato:"Man mano che le capacità delle tecnologie basate sull'intelligenza artificiale si espandono, così anche il loro potenziale di sfruttamento criminale. Per prepararsi adeguatamente alle possibili minacce dell'IA, dobbiamo identificare quali potrebbero essere queste minacce, e come possono avere un impatto sulle nostre vite".

I ricercatori hanno compilato i 20 crimini abilitati dall'intelligenza artificiale da documenti accademici, notizie e notizie di attualità, e finzione e cultura popolare. Hanno quindi raccolto 31 persone con esperienza in IA per due giorni di discussioni per classificare la gravità dei potenziali crimini. I partecipanti provenivano dal mondo accademico, il settore privato, la polizia, il governo e le agenzie di sicurezza dello stato.

I reati di media rilevanza includevano la vendita di articoli e servizi etichettati in modo fraudolento come "AI", quali controlli di sicurezza e pubblicità mirata. Questi sarebbero facili da raggiungere, con profitti potenzialmente elevati.

I crimini di scarsa importanza includevano i robot antifurto - piccoli robot utilizzati per entrare nelle proprietà attraverso punti di accesso come cassette delle lettere o gattaioli - che sono stati giudicati facili da sconfiggere, ad esempio attraverso gabbie per le cassette delle lettere, e lo stalking assistito dall'intelligenza artificiale, quale, anche se estremamente dannoso per le persone, non poteva operare su larga scala.

Il primo autore, il dott. Matthew Caldwell (UCL Computer Science), ha dichiarato:"Le persone ora conducono gran parte della loro vita online e la loro attività online può creare e distruggere reputazioni. Un tale ambiente online, dove i dati sono proprietà e potere di informazione, è ideale per lo sfruttamento da parte di attività criminali basate sull'intelligenza artificiale.

"A differenza di molti crimini tradizionali, i crimini nel regno digitale possono essere facilmente condivisi, ripetuto, e anche venduto, consentire la commercializzazione di tecniche criminali e la fornitura di reati come servizio. Ciò significa che i criminali potrebbero essere in grado di esternalizzare gli aspetti più impegnativi del loro crimine basato sull'intelligenza artificiale".

Professor Shane Johnson, Direttore del Dawes Center for Future Crimes presso l'UCL, che ha finanziato lo studio, ha dichiarato:"Viviamo in un mondo in continua evoluzione che crea nuove opportunità, buone e cattive. In quanto tale, è imperativo anticipare le future minacce criminali in modo che i responsabili politici e altri soggetti interessati con la competenza per agire possano farlo prima che si verifichino nuovi "raccolti criminali". Questo rapporto è il primo di una serie che identificherà le future minacce criminali associate alle tecnologie nuove ed emergenti e cosa potremmo fare al riguardo".