Un nuovo articolo pubblicato su Comunicazioni AI fornisce uno sguardo completo sullo sviluppo di un quadro etico, codice di comportamento, e metodologie di progettazione basate sul valore per ricercatori di IA e sviluppatori di applicazioni in Europa. La "Dichiarazione di Barcellona per il corretto sviluppo e utilizzo dell'intelligenza artificiale in Europa" è stata lanciata nella primavera del 2017 in occasione dell'evento B-Debate a Barcellona, stimolare ulteriori discussioni tra i decisori politici, leader del settore, ricercatori e sviluppatori di applicazioni sulle opportunità e i rischi dell'IA nell'attuale ambiente della "corsa all'oro".

Oltre a documentare la completa Dichiarazione di Barcellona, il documento esamina la logica alla base di esso, punta sulla sicurezza, affidabilità, ed etica e valuta i progressi sulle sue raccomandazioni chiave. Sponsorizzato dal Biocat e l'Obra Social la Caixa, con il supporto di ICREA, l'Institut de Biologia Evolutiva, e l'Institut d'Investigacio en Intelligencia Artificial, B-Debate ha riunito i migliori esperti in Europa per discutere le strategie per affrontare i rischi e i benefici dell'IA. L'evento è stato unico a causa della partecipazione di sviluppatori e ricercatori europei in un discorso che era stato precedentemente dominato da scienziati sociali statunitensi e britannici, esperti legali, e società di consulenza aziendale. La Dichiarazione di Barcellona è stata firmata dalla maggior parte dei partecipanti ed è accessibile per la firma e la discussione sul web.

"Dato il diffuso interesse per l'IA e l'entusiasmo per lo sviluppo di applicazioni che influenzino le persone nella loro vita quotidiana, è importante che la comunità di ricerca e sviluppo delle applicazioni si impegni in discussioni aperte per evitare aspettative irrealistiche, conseguenze non volute, e l'uso che provoca effetti collaterali negativi o sofferenza umana, " ha detto Luc Steels, dottorato di ricerca, Professore di ricerca ICREA, Istituto catalano per la ricerca e gli studi avanzati (ICREA) - IBE (UPF/CSIC), Barcellona, che con il suo co-investigatore Ramon Lopez de Mantaras, dottorato di ricerca, Professore di Ricerca del Consiglio Nazionale delle Ricerche Spagnolo (CSIC) e Direttore dell'Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcellona, organizzato l'evento di Barcellona.

Sebbene la maggior parte delle attività di intelligenza artificiale sia negli Stati Uniti e in Cina, le recenti azioni della Commissione europea e dei governi nazionali indicano che la ricerca e lo sviluppo stanno aumentando in Europa, crescita che il discorso intorno alla Dichiarazione sta contribuendo a plasmare. Uno sviluppo promettente è stata la recente assegnazione nell'ambito del programma quadro europeo H2020 per la creazione di un ecosistema e una piattaforma per stimolare la ricerca europea sull'IA, come richiesto dalla Dichiarazione. Il documento rinnova il suo appello alle agenzie di finanziamento e alle imprese europee affinché investano nello sviluppo dell'IA su una scala adeguata alla sfida, e in modo tale che tutte le regioni ei cittadini europei possano trarne profitto.

Il B-Dibattito, Dichiarazione di Barcellona, e una letteratura in rapida crescita sta sollevando domande urgenti che continuano a risuonare:l'intelligenza artificiale è pronta per l'implementazione su larga scala? L'intelligenza artificiale è ora utilizzata principalmente per scopi commerciali, ma possiamo usare l'IA anche per il bene comune? Quali applicazioni dovremmo incoraggiare? Come possono essere affrontati gli effetti negativi nella diffusione dell'IA? Quali sono le recenti scoperte tecniche nell'IA e in che modo influiscono sulle applicazioni? Quale dovrebbe essere il ruolo dell'IA nei social media? Quali sono le migliori pratiche per lo sviluppo e l'implementazione dell'IA?

"Mentre i rapidi progressi dell'IA sono ampiamente attesi con entusiasmo, una certa ansia per il progresso è necessaria e giustificabile, " hanno commentato Steels e Lopez de Mantaras. "La paura comune che l'implementazione dell'IA sfugga di mano può sembrare inverosimile, ma ci sono già conseguenze indesiderate che necessitano di un rimedio urgente. Per esempio, gli algoritmi incorporati nel web e nei social media hanno un impatto su chi parla con chi, come le informazioni vengono selezionate e presentate, e come i fatti/falsità si propagano e competono nello spazio pubblico. L'intelligenza artificiale dovrebbe (e potrebbe) aiutare a sostenere la formazione del consenso piuttosto che distruggerlo. I sistemi di intelligenza artificiale dovrebbero chiarire molto chiaramente che sono artificiali piuttosto che umani. Ingannare gli umani non dovrebbe mai essere un obiettivo dell'intelligenza artificiale".

Sono inoltre allo studio domande sull'affidabilità e la responsabilità dei sistemi di intelligenza artificiale basati sull'apprendimento profondo che implicano comportamenti governati da regole (ad es. gestione delle risorse umane, o forze dell'ordine). I pregiudizi incorporati possono impedire a persone in cerca di lavoro qualificate di superare lo screening o portare a decisioni ingiuste sulla libertà vigilata. I sistemi di intelligenza artificiale autonomi pongono preoccupazioni diverse. Dobbiamo porre limiti alle armi autonome? Chi è responsabile quando qualcosa va storto con un'auto a guida autonoma?

"La Dichiarazione di Barcellona ha stabilito un quadro di governance per integrare le migliori pratiche in modo proattivo, come parte del processo di progettazione. Crediamo che l'IA possa essere una forza per il bene della società, ma che vi è un pericolo sufficiente per inappropriato, uso prematuro o doloso per giustificare la necessità di aumentare la consapevolezza dei limiti dell'IA e di un'azione collettiva per garantire che l'IA sia effettivamente utilizzata per il bene comune in condizioni di sicurezza, affidabile, e modi responsabili, " hanno spiegato Steels e Lopez de Mantaras.

Sebbene il panorama dell'IA in Europa stia cambiando rapidamente attraverso tutte queste discussioni e attività, gli investigatori concludono che le questioni sollevate nella Dichiarazione rimangono altamente rilevanti, e rinnovare le raccomandazioni in diverse aree prioritarie:

• Oggi c'è un bisogno ancora maggiore di chiarire cosa intendiamo per AI quando discutiamo di questioni legali ed etiche. Manca una distinzione tra AI basata sulla conoscenza, che modella la conoscenza umana in termini computazionali, o apprendimento orientato ai dati, comunemente noto come apprendimento automatico. Le questioni legali ed etiche e le applicazioni di entrambi gli approcci sono dissimili, ma il pieno potenziale dell'IA sarà realizzato solo con una loro combinazione.
• La domanda quanta autonomia dovrebbe essere data a un sistema di intelligenza artificiale è per molte applicazioni, come la tecnologia delle armi o le auto autonome, di primaria importanza. Un approccio è creare regole di governance e un quadro giuridico che sia sia una linea guida per gli sviluppatori sia un meccanismo attraverso il quale coloro che sono colpiti negativamente dalla tecnologia possono chiedere un risarcimento.
• L'attenzione deve spostarsi dalle macchine che sostituiscono i lavoratori umani all'integrazione e allo sfruttamento degli esseri umani nell'esecuzione dei compiti e nel prendere decisioni migliori. La discussione sull'automazione dovrebbe concentrarsi sulla natura mutevole del lavoro, non solo il numero di posti di lavoro.
• C'è ancora molta strada da fare per sostenere adeguatamente lo sviluppo e la diffusione dell'IA in Europa. La Dichiarazione ha contribuito a sensibilizzare e ha dato ulteriore impulso alle iniziative del governo, ma azioni concrete e stanziamenti di finanziamenti stabili che hanno un impatto diretto sulla diffusione dell'IA, ricerca, e l'istruzione in Europa sono ancora rari.