Nel 1969, pioniere dell'intelligenza artificiale e premio Nobel Herbert Simon ha proposto una nuova scienza, uno che si avvicinava allo studio degli oggetti artificiali proprio come si studiano gli oggetti naturali.

"La scienza naturale è la conoscenza di oggetti e fenomeni naturali, "Simon ha scritto. "Ci chiediamo se non ci possa essere anche una scienza 'artificiale':conoscenza di oggetti e fenomeni artificiali".

Ora, 50 anni dopo, un team di ricercatori di Harvard, MIT, Stanford, l'Università della California, San Diego, Google, Facebook, Microsoft, e altre istituzioni rinnovano tale appello. In un recente articolo pubblicato sulla rivista Natura , i ricercatori hanno proposto un nuovo campo interdisciplinare - comportamento macchina - che studierebbe l'intelligenza artificiale attraverso la lente della biologia, economia, psicologia, e altre scienze comportamentali e sociali.

macchine intelligenti, sostengono i ricercatori, non possono più essere visti solo come prodotti dell'ingegneria e dell'informatica; piuttosto, dovrebbero essere visti come una nuova classe di attori con i propri comportamenti ed ecologia.

La Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS) ha parlato con David Parkes, il George F. Colony Professor of Computer Science e coautore dell'articolo, su questo campo emergente e su ciò che il futuro ha in serbo per le macchine intelligenti.

Domande e risposte:David Parkes

MARI:Per così tanto tempo, lo studio dell'intelligenza artificiale e delle macchine intelligenti è stato confinato al regno dell'informatica, ei ricercatori che hanno costruito le macchine erano gli stessi che hanno studiato il loro comportamento. Perché è importante ampliare il campo di studio per includere nuovi campi, comprese le scienze comportamentali e sociali?

PARCHI:Primo, una separazione tra i progettisti e i costruttori di macchine intelligenti e coloro che studiano come vengono utilizzate (o meno) può portare un punto di vista indipendente nello sviluppo e nella verifica dei giusti set di ipotesi sulle prestazioni di queste tecnologie. Ci sono anche ragioni pragmatiche, in quanto lo studio delle macchine intelligenti diventa una scienza comportamentale, richiedono tipi di competenza molto diversi. Un altro punto è che i sistemi sviluppati negli stretti confini di un laboratorio possono comportarsi in modo molto diverso "in natura, "quando il comportamento diventa un prodotto del modo in cui vengono utilizzati, compresi i molti modi che sono diversi da ciò che i loro progettisti avevano inteso. Il bot Tay di Microsoft [che ha iniziato a pubblicare tweet offensivi dopo che i troll le hanno "insegnato" il suo discorso di odio] è un esempio sfortunato ma non così unico.

SEAS:In che modo i campi del comportamento delle macchine e dell'informatica potrebbero crescere insieme e informarsi a vicenda andando avanti?

PARKES:Poiché l'informatica ha avuto un tale impatto, il campo è arrivato ad abbracciare ciò che gli economisti potrebbero definire "analisi positiva, " vale a dire analisi che si basa sugli studi empirici e sperimentali di dispiegati, sistemi computazionali:la struttura del World Wide Web, la diffusione delle informazioni sui social network, o il modo in cui vengono utilizzati i sistemi di tutoraggio interattivo, per fare solo tre esempi. Le macchine intelligenti sono un nuovo tipo di artefatto che dobbiamo studiare e comprendere, e dovremo farlo in un modo interdisciplinare che includa scienziati informatici che lavorano in collaborazione con scienziati sociali, umanisti, eticisti, studiosi di diritto, per citarne solo alcuni. Più in generale, lo studio del comportamento delle macchine sarà influenzato dai progressi nella scienza dei dati, nel lavorare su larga scala con grandi quantità di diversi tipi di dati, e nell'utilizzo di metodi di apprendimento automatico probabilistico e statistiche per individuare causa ed effetto.

SEAS:Il tuo lavoro si concentra sull'intersezione tra intelligenza artificiale ed economia. A quali domande sul comportamento della macchina sei più interessato a rispondere?

PARKES:Sono interessato a un programma di ricerca che studia il comportamento delle macchine nell'ambito dell'economia algoritmica, inclusi algoritmi di prezzo, algoritmi di raccomandazione, e sistemi di reputazione, così come nel contesto delle blockchain. Possiamo già vedere una traiettoria verso l'automazione di molti dei componenti fondamentali di ciò che costituisce un sistema economico, e la lente del comportamento della macchina è buona perché il comportamento è emergente, il che significa che si basa non solo sulle interazioni individuali ma anche sulle forze sociali ed economiche. Penso che i sistemi di raccomandazione come quelli impiegati da Amazon siano particolarmente interessanti e importanti da studiare perché è lì che vedremo sorgere domande spinose sull'economia comportamentale, marketing algoritmico, ed etica... Ad esempio, va bene per un consulente intelligente sfruttare gli "effetti del set di scelta" per aumentare le entrate?

SEAS:Quali sono gli effetti del set di scelta?

PARKES:Ti mostro un a buon mercato, costo moderato, e costosa macchina da caffè e scegli quella a prezzi moderati. Ma, se ti mostro un moderato, caro, e macchina super-lusso, scegli tu il...?

SEAS:uno costoso. Hai allevato aziende private come Amazon e Microsoft. Gli algoritmi proprietari e black-box devono rappresentare una sfida per comprendere il comportamento delle macchine. Come possiamo capire perché una macchina si comporta in quel modo quando non sappiamo qual è l'algoritmo o come prende le decisioni?

PARCHI:Stranamente, gli algoritmi non devono essere di per sé molto complicati. Gli algoritmi per addestrare un sistema di deep learning, che descrivono l'architettura di un modello e il modo in cui verrà addestrato un modello, può essere tipicamente espresso in appena decine di righe di codice (anche se codice che poi si basa su altri, codice di livello inferiore). Sono i modelli addestrati che sono complessi e in qualche modo imperscrutabili, spesso considerata una "scatola nera". Ma non è senza speranza, e ci sono molte direzioni di ricerca sensate, ad esempio, che richiedono modelli più semplici, insistendo su una spiegazione post hoc del comportamento di modelli complessi, e utilizzando la visualizzazione e le analisi di sensibilità per cercare di capire il modo in cui funzionano questi modelli e testare le teorie sul comportamento.

SEAS:L'intelligenza artificiale gioca già un ruolo così importante nelle nostre vite. Qual è l'importanza di stabilire questo nuovo campo di ricerca ora? Hai paura che sia iniziato troppo tardi, quando tante delle basi dell'IA sono già state poste?

PARCHI:Bene, non è mai troppo tardi, e siamo solo all'inizio dell'ondata di cambiamento che verrà dallo sviluppo di macchine intelligenti. C'è bisogno di andare avanti deliberatamente, con adeguate misure di curiosità, creatività, e responsabilità, mentre allo stesso tempo con il riconoscimento che persone e macchine continueranno a legarsi insieme in modi nuovi e inaspettati. L'importante è riconoscere la necessità di uno studio scientifico, e questo articolo di revisione riunisce i thread in questo emergente, campo interdisciplinare del comportamento della macchina.

Questa storia è pubblicata per gentile concessione della Harvard Gazette, Il giornale ufficiale dell'Università di Harvard. Per ulteriori notizie universitarie, visita Harvard.edu.