Un metodo dell'Oak Ridge National Laboratory per migliorare l'efficienza energetica dell'intelligenza artificiale scientifica si sta dimostrando promettente negli sforzi per analizzare le intuizioni dai volumi di dati sul cancro.

I ricercatori stanno realizzando il potenziale del deep learning per far progredire rapidamente la scienza, ma "addestrare" le reti neurali sottostanti con grandi volumi di dati per affrontare il compito da svolgere può richiedere grandi quantità di energia. Queste reti richiedono anche connettività complessa e enormi quantità di storage, entrambi i quali riducono ulteriormente la loro efficienza energetica e il potenziale nelle applicazioni del mondo reale.

Per affrontare questo problema, Mohammed Alawad dell'ORNL, Hong-Jun Yoon, e Georgia Tourassi hanno sviluppato un nuovo metodo per lo sviluppo di reti neurali profonde efficienti dal punto di vista energetico in grado di risolvere problemi scientifici complessi. Hanno presentato la loro ricerca alla Conferenza IEEE 2017 sui Big Data a Boston.

I ricercatori hanno dimostrato che convertendo le reti neurali di apprendimento profondo (DNN) in reti neurali "deep spiking" (DSNN), possono migliorare l'efficienza energetica della progettazione e realizzazione della rete.

I DSNN imitano i neuroni nel cervello umano tramite impulsi o "picchi" al posto di segnali reali, con i singoli picchi che indicano dove eseguire i calcoli. Questo processo riduce al minimo i calcoli necessari e massimizza l'efficienza energetica della rete. Però, l'efficienza energetica va a scapito delle prestazioni delle attività, e il nuovo metodo stocastico degli autori per implementare i DSNN supera questo compromesso.

I risultati sono stati impressionanti:l'approccio del team ha raggiunto quasi la stessa precisione del DNN originale e si è comportato meglio di una rete neurale di picco all'avanguardia. Il DSNN basato sullo stocastico del team, che distribuisce i picchi uniformemente nel tempo, consumato 38 volte meno energia rispetto al DNN originale e quasi 2 volte meno energia rispetto a un DSNN convenzionale, offrendo prestazioni di lavoro nettamente migliori.

I ricercatori hanno addestrato la loro rete su dati di testo clinici dal National Cancer Institute's Surveillance, Epidemiologia, e il programma dei risultati finali (SEER), che fornisce statistiche sul cancro come l'incidenza, prevalenza, e mortalità nella popolazione associata per età, sesso, corsa, anno di diagnosi, e aree geografiche.

Il team ORNL ha applicato le reti appena formate ai referti di patologia clinica, la principale fonte di informazioni per il programma nazionale di sorveglianza del cancro. Questi rapporti contengono grandi quantità di testo non strutturato, ha detto Yoon, e i ricercatori stanno sviluppando sistemi intelligenti di comprensione del linguaggio per estrarre i concetti clinici più rilevanti nel mare del testo.

I referti clinici rappresentano un dataset "scarso", che in genere pongono sfide uniche alle reti di picco. La maggior parte delle tecniche DSNN si è concentrata su attività di visione artificiale come il set di dati MNIST, che consistono in una serie di cifre scritte a mano per addestrare le reti di elaborazione delle immagini. Questi set di dati sono in genere "densi, " significa che tutte le variabili nel set di dati sono popolate con valori, una caratteristica che spesso semplifica le analisi.

Le tecniche tradizionali per migliorare le prestazioni e l'efficienza energetica delle reti spiking spesso preservano le strutture delle reti neurali convenzionali, una pratica che sacrifica la precisione e le prestazioni. Queste carenze hanno spinto il team a sviluppare una nuova metodologia, che si basa su hardware del circuito semplice per eseguire calcoli complessi.

"Spiking la rete riduce il consumo di energia perché ignoriamo i calcoli non necessari e cerchiamo solo i nodi rilevanti della rete, " ha detto Yoon, "e questo è un modo per ottenere miglioramenti dell'efficienza energetica identificando importanti informazioni cliniche con elevata precisione".

La tecnica del team aiuterà i ricercatori ORNL nel progetto CANcer Distributed Learning Environment (CANDLE), che mira a utilizzare l'esperienza di livello mondiale dei big data e le strutture informatiche del laboratorio per scansionare milioni di rapporti clinici alla ricerca di approfondimenti sulle cause del cancro, migliori corsi di trattamento, e risultati migliori. Cercheranno presto di parallelizzare l'algoritmo per una maggiore efficienza computazionale.

Le reti di spiking sono state ottimizzate su unità di elaborazione grafica (GPU), i processori preferiti per le applicazioni di intelligenza artificiale, in particolare quelli che utilizzano l'apprendimento automatico e il deep learning. Però, la metodologia può essere estesa per la formazione di reti di spuntoni, aumentare ulteriormente l'efficienza energetica di queste nuove reti accelerando la scoperta scientifica tramite il deep learning.