La società sta prestando più attenzione che mai alla questione del pregiudizio nei sistemi di intelligenza artificiale, e in particolare quelli utilizzati per riconoscere e analizzare le immagini dei volti. All'IBM, stiamo intraprendendo le seguenti azioni per garantire che la tecnologia di riconoscimento facciale sia costruita e addestrata in modo responsabile:

(1) Uno dei maggiori problemi che causano distorsioni nell'area dell'analisi facciale è la mancanza di dati diversi su cui addestrare i sistemi. Così, questo autunno, metteremo a disposizione del pubblico quanto segue come strumento per l'industria tecnologica e la comunità di ricerca:

1. Un set di dati per l'addestramento dell'identità e degli attributi del viso di oltre 1 milione di immagini per migliorare l'addestramento del sistema di analisi del viso creato dagli scienziati di IBM Research. È annotato con attributi e identità, sfruttando i tag geografici dalle immagini di Flickr per bilanciare i dati provenienti da più paesi e strumenti di apprendimento attivi per ridurre la distorsione nella selezione del campione. Attualmente, il più grande set di dati sugli attributi facciali disponibile è 200, 000 immagini, quindi questo nuovo set di dati con un milione di immagini sarà un miglioramento monumentale. Inoltre, i set di dati disponibili oggi includono solo attributi (colore dei capelli, peli del viso, ecc.) o identità (identificando che 5 immagini sono della stessa persona), ma non entrambe. Questo nuovo set di dati lo cambia per creare una singola capacità di abbinare gli attributi a un individuo.
2. Un set di dati che include 36, 000 immagini facciali – equamente distribuite tra tutte le etnie, generi, ed età per fornire un set di dati più diversificato che le persone possano utilizzare nella valutazione delle loro tecnologie. Ciò aiuterà specificamente i progettisti di algoritmi a identificare e affrontare i pregiudizi nei loro sistemi di analisi facciale. Il primo passo per affrontare il pregiudizio è sapere che c'è un pregiudizio, ed è ciò che questo set di dati consentirà.

(2) All'inizio di quest'anno, abbiamo notevolmente aumentato la precisione del nostro servizio Watson Visual Recognition per l'analisi facciale, che ha dimostrato una diminuzione di quasi dieci volte del tasso di errore per l'analisi facciale. E, stiamo continuando a guidare miglioramenti continui. Il 14 settembre si terrà un workshop tecnico (da IBM Research in collaborazione con l'Università del Maryland) per identificare e ridurre i bias nell'analisi facciale. 2018 in concomitanza con ECCV 2018. I risultati del concorso che utilizzano il set di dati dell'immagine facciale IBM saranno annunciati durante il workshop. Per di più, i nostri ricercatori continuano a lavorare con un'ampia gamma di parti interessate, utenti ed esperti per comprendere altri pregiudizi e vulnerabilità che possono influenzare il processo decisionale dell'IA, in modo da poter continuare a migliorare i nostri sistemi."

L'intelligenza artificiale ha un potere significativo per migliorare il modo in cui viviamo e lavoriamo, ma solo se i sistemi di IA vengono sviluppati e formati in modo responsabile, e produrre risultati di cui ci fidiamo. Assicurarsi che il sistema sia addestrato su dati bilanciati, e liberarsi dei pregiudizi è fondamentale per raggiungere tale fiducia.

Con l'aumento dell'adozione dell'IA, il problema di impedire che i pregiudizi entrino nei sistemi di intelligenza artificiale è in primo piano. Crediamo che nessuna tecnologia, per quanto accurata, possa o debba sostituire il giudizio umano, intuizione e competenza. Il potere delle innovazioni avanzate, come l'intelligenza artificiale, risiede nella loro capacità di aumentare, non sostituire, decisionale umano. È quindi fondamentale che qualsiasi organizzazione che utilizzi l'intelligenza artificiale, comprese le capacità di riconoscimento visivo o di analisi video, formi i team che lavorano con essa per comprendere i pregiudizi, inclusi pregiudizi impliciti e inconsci, monitorarlo, e sapere come affrontarlo.

In qualità di azienda leader nel promuovere la diversità e l'inclusione nel mondo aziendale, qualsiasi tipo di discriminazione è contro i valori di IBM. Siamo profondamente impegnati a garantire che le tecnologie AI siano sviluppate senza pregiudizi.

Da più di un secolo, IBM ha responsabilmente introdotto nel mondo tecnologie rivoluzionarie. Ci impegniamo a fornire servizi di intelligenza artificiale costruiti in modo responsabile, sono imparziali e spiegabili. La nostra attività è stata guidata da una serie di principi di fiducia e trasparenza, che include la nostra ferma convinzione che le aziende che promuovono l'intelligenza artificiale hanno la responsabilità di affrontare il problema dei pregiudizi frontalmente. E lavoriamo continuamente per valutare e aggiornare i nostri servizi, promuovendoli in modo affidabile e inclusivo.