Ogni volta che carichi una foto o un video su una piattaforma di social media, i suoi sistemi di riconoscimento facciale imparano qualcosa in più su di te. Questi algoritmi acquisiscono dati su chi sei, la tua posizione e le persone che conosci, e migliorano costantemente.

Man mano che crescono le preoccupazioni sulla privacy e sulla sicurezza dei dati sui social network, I ricercatori della U of T Engineering guidati dal professor Parham Aarabi e dallo studente laureato Avishek Bose hanno creato un algoritmo per interrompere dinamicamente i sistemi di riconoscimento facciale.

"La privacy personale è un problema reale poiché il riconoscimento facciale diventa sempre migliore, " dice Aarabi. "Questo è un modo in cui i sistemi benefici anti-riconoscimento facciale possono combattere questa capacità".

La loro soluzione sfrutta una tecnica di deep learning chiamata formazione in contraddittorio, che mette l'uno contro l'altro due algoritmi di intelligenza artificiale. Aarabi e Bose hanno progettato una serie di due reti neurali:la prima che funziona per identificare i volti, e il secondo che lavora per interrompere il compito di riconoscimento facciale del primo. I due sono costantemente in lotta e imparano l'uno dall'altro, la creazione di una corsa agli armamenti dell'IA in corso.

Il risultato è un filtro simile a Instagram che può essere applicato alle foto per proteggere la privacy. Il loro algoritmo altera pixel molto specifici nell'immagine, apportare modifiche quasi impercettibili all'occhio umano.

"L'intelligenza artificiale dirompente può "attaccare" ciò che sta cercando la rete neurale per il rilevamento del volto, " dice Bose. "Se l'IA di rilevamento sta cercando la coda degli occhi, Per esempio, regola l'angolo degli occhi in modo che siano meno evidenti. Crea disturbi molto sottili nella foto, ma per il rivelatore sono abbastanza significativi da ingannare il sistema."

Aarabi e Bose hanno testato il loro sistema sul set di dati del viso da 300 W, un pool standard del settore di oltre 600 volti che include un'ampia gamma di etnie, condizioni di luce e ambienti. Hanno dimostrato che il loro sistema potrebbe ridurre la proporzione di volti originariamente rilevabili da quasi il 100% fino allo 0,5%.

"La chiave qui era addestrare le due reti neurali l'una contro l'altra, con una che creava un sistema di rilevamento facciale sempre più robusto, e l'altro creando uno strumento sempre più potente per disabilitare il rilevamento facciale, "dice Bose, l'autore principale del progetto. Lo studio del team sarà pubblicato e presentato all'IEEE International Workshop on Multimedia Signal Processing del 2018 entro la fine dell'estate.

Oltre a disabilitare il riconoscimento facciale, la nuova tecnologia interrompe anche la ricerca basata su immagini, identificazione delle caratteristiche, stima delle emozioni e dell'etnia, e tutti gli altri attributi basati sul volto che potrebbero essere estratti automaticamente.

Prossimo, il team spera di rendere pubblicamente disponibile il filtro sulla privacy, tramite un'app o un sito web.

"Dieci anni fa questi algoritmi avrebbero dovuto essere definiti dall'uomo, ma ora le reti neurali imparano da sole:non è necessario fornire loro nulla tranne i dati di addestramento, " dice Aarabi. "Alla fine possono fare delle cose davvero sorprendenti. È un momento affascinante nel campo, c'è un potenziale enorme".