Ne abbiamo bisogno per mostrare il suo lavoro Il pensiero al computer sta diventando così complesso che stiamo iniziando a perdere traccia del suo ragionamento. Come possiamo assicurarci di sapere perché l'intelligenza artificiale prende la decisione che fa? Chad Baker/Getty Images

Se desideri ordinare un vasto numero di immagini digitali, o classificare quantità sbalorditive di informazioni scritte per argomento, è meglio fare affidamento su sistemi di intelligenza artificiale (AI) chiamati reti neurali, che cercano modelli nei dati e si addestrano a fare previsioni sulla base delle loro osservazioni.

Ma quando si tratta di campi ad alto rischio come le informazioni mediche, dove il costo di commettere un errore o una previsione errata è potenzialmente pericoloso per la vita, noi umani a volte siamo riluttanti a fidarci delle risposte fornite dai programmi. Questo perché le reti neurali utilizzano l'apprendimento automatico, in cui si allenano su come capire le cose, e il nostro misero cervello di carne non può vedere il processo.

Sebbene i metodi di apprendimento automatico "sono flessibili e in genere si traducono in previsioni accurate, rivelano poco in termini comprensibili per l'uomo sul motivo per cui viene fatta una particolare previsione, "dice Tommi Jaakkola, professore di ingegneria elettrica e informatica al Massachusetts Institute of Technology, Via Posta Elettronica.

Consideralo come l'equivalente dell'apprendimento automatico di scrivere i tuoi problemi di matematica su una lavagna per mostrare il tuo lavoro.

Se sei un malato di cancro che cerca di scegliere le opzioni di trattamento in base alle previsioni di come la tua malattia potrebbe progredire, o un investitore che cerca di capire cosa fare con i risparmi per la pensione, fidarsi ciecamente di una macchina può essere un po' spaventoso, soprattutto perché abbiamo insegnato alle macchine a prendere decisioni, ma non abbiamo un buon modo di osservare esattamente come le stanno facendo.

Ma non aver paura. In un nuovo articolo scientifico, Jaakkola e altri ricercatori del Massachusetts Institute of Technology hanno sviluppato un metodo per verificare le risposte fornite dalle reti neurali. Consideralo come l'equivalente dell'apprendimento automatico di scrivere i tuoi problemi di matematica su una lavagna per mostrare il tuo lavoro.

Come dettagli di un comunicato stampa del MIT, Le reti neurali AI in realtà imitano la struttura del cervello umano. Sono composti da molti nodi di elaborazione che, come i nostri neuroni, unire le forze e combinare la propria potenza di calcolo per affrontare i problemi. Nel processo, si impegnano in ciò che i ricercatori chiamano "apprendimento profondo, " passando i dati di addestramento da nodo a nodo, e quindi correlandolo con qualsiasi tipo di classificazione che la rete neurale sta cercando di imparare a fare. I risultati vengono continuamente modificati per migliorare, quasi allo stesso modo in cui gli umani imparano attraverso prove ed errori nel tempo.

Il grosso problema è che anche gli informatici che programmano le reti non possono davvero vedere cosa sta succedendo con i nodi, il che ha reso difficile capire come i computer prendono effettivamente le loro decisioni.

"Non cerchiamo di spiegare il funzionamento interno di un modello complesso, " spiega Jaakkola. "Invece, forziamo il modello a funzionare in modo tale da consentire a un essere umano di verificare facilmente se la previsione è stata fatta sulla base giusta".

"Il nostro metodo impara a generare una logica per ogni previsione. Una logica è un pezzo di testo conciso, facile da controllare per un essere umano, questo da solo è sufficiente per fare la stessa previsione. Per realizzare questo, abbiamo diviso l'architettura complessiva del modello in due componenti separabili:generatore e codificatore. Il generatore seleziona una logica, ad esempio una parte di testo, e la trasmette al codificatore per fare una previsione. La combinazione si impara a lavorare insieme come un predittore".

"Così, anche se il nostro generatore e codificatore sono essi stessi metodi di deep learning complessi, il modello combinato è costretto a fare la sua previsione in modo direttamente verificabile poiché la previsione si basa sulla logica selezionata, " scrive Jaakkola.

Nella loro carta, gli scienziati si sono divertiti un po' usando il loro sistema per classificare le recensioni da un sito web di appassionati di birra, in base agli attributi della birra come l'aroma, palato e aspetto. "Il set di dati della recensione della birra aveva già frasi annotate relative ad aspetti specifici dei prodotti in modo da poter confrontare direttamente le motivazioni generate automaticamente con le selezioni umane, " dice Jaakkola. Nell'esperimento, hanno scoperto che la rete neurale concordava con le annotazioni umane tra l'80 e il 96 percento delle volte, a seconda di quanto fosse specifica la caratteristica.

Ora è interessante

Uno dei modi classici per dimostrare le capacità di una rete neurale di intelligenza artificiale è utilizzarla per risolvere il cosiddetto problema del commesso viaggiatore, e capire il percorso più breve tra più città.