Negli ultimi dieci anni o giù di lì, gli approcci di deep learning sono diventati sempre più efficienti nell'elaborazione di dati statici come le immagini. Però, queste tecniche si sono rivelate in qualche modo meno efficaci nell'analisi dei dati temporali, come video, discorso umano e altri input in streaming. Ciò è principalmente dovuto al fatto che l'elaborazione dei dati temporali richiede reti neurali artificiali più grandi, che sono più costosi da addestrare e implementare.

Con questo in testa, un team di ricercatori dell'Università del Michigan ha recentemente sviluppato un sistema hardware di calcolo del serbatoio per elaborare i dati temporali in modo più efficace. I sistemi di calcolo del serbatoio consistono essenzialmente in un serbatoio che mappa gli input in uno spazio ad alta dimensionalità e una lettura per l'analisi del modello basata sugli stati ad alta dimensionalità del serbatoio.

Questi sistemi si sono rivelati particolarmente efficaci per l'elaborazione di dati temporali o sequenziali. Il sistema sviluppato dai ricercatori, che è stato presentato in un articolo pubblicato in Elettronica della natura , si basa sull'ossido di tungsteno dinamico (WO _X ) memristori con capacità di memoria interna a breve termine.

"Una ragione principale per la grande dimensione della rete necessaria per l'elaborazione dei dati temporali è il gran numero di possibili caratteristiche temporali che devono essere apprese e archiviate dalla rete, " Wei Lu, l'autore senior che ha guidato lo studio, ha detto a TechXplore. "Risolvere questo problema, abbiamo impiegato un concetto di "calcolo del serbatoio", dove il 'serbatoio' nel sistema può elaborare gli input senza dover apprendere le caratteristiche. Ciò è reso possibile dalla proprietà di "memoria a breve termine" del serbatoio, in modo che possa rispondere (essere eccitato) di conseguenza a diversi input senza dover memorizzare esplicitamente nulla."

La maggior parte dei serbatoi sviluppati in precedenza sono stati costruiti utilizzando circuiti digitali che emulano gli effetti della memoria a breve termine. Questo alla fine li rende difficili da implementare fisicamente, e quindi altamente impraticabile.

Lu e i suoi colleghi, d'altra parte, fabbricato il loro sistema di calcolo del serbatoio utilizzando WO _X dispositivi memristori con proprietà intrinseche di memoria a breve termine. In altre parole, ogni singolo dispositivo memristore è di per sé un sistema dinamico e può elaborare un'ampia gamma di input temporali.

Attraverso questi memristori, il sistema di giacimento può mappare in modo non lineare gli input temporali negli stati di giacimento. Le caratteristiche proiettate possono quindi essere facilmente elaborate da una funzione di lettura lineare.

"Sfruttando le dinamiche interne dei dispositivi per eseguire naturalmente l'elaborazione, potremmo costruire la rete di serbatoi con solo un piccolo numero di dispositivi memristor che portano a un'impronta molto più piccola, costo, e consumo di energia, "Lui ha spiegato.

Lu e i suoi colleghi hanno dimostrato e valutato il loro sistema su un'attività di riconoscimento vocale standard che prevede il riconoscimento delle cifre parlate. Il loro sistema è stato in grado di riconoscere le cifre pronunciate dagli umani con una notevole precisione del 99,2 percento.

"Più interessante, poiché la rete può catturare le caratteristiche temporali dell'input, abbiamo dimostrato che possiamo utilizzare la rete anche per eseguire funzioni di previsione/previsione, "Lu ha detto. "Per esempio, nel riconoscimento vocale, possiamo prevedere la parola voluta dall'oratore prima che l'oratore la finisca. In un altro esempio, abbiamo mostrato la capacità della rete di catturare le complesse caratteristiche di un sistema caotico e prevedere in modo affidabile l'evoluzione del sistema caotico a lungo termine, che è un compito molto impegnativo".

Nel futuro, il sistema di calcolo del serbatoio per l'analisi e la previsione degli input temporali ideato da questo team di ricercatori potrebbe avere numerose applicazioni interessanti. Ad esempio, potrebbe aiutare a migliorare le interfacce uomo-macchina, piattaforme di guida autonome, e altre tecnologie che richiedono l'elaborazione o la previsione di input in streaming.

Inoltre, utilizzando questo nuovo approccio, le dimensioni e il consumo energetico delle reti neurali artificiali per l'elaborazione dei dati temporali possono essere notevolmente ridotti. Ciò potrebbe rendere l'integrazione di queste reti nei sistemi esistenti più semplice ed economica, consentendo in definitiva ai ricercatori di dotare una più ampia varietà di dispositivi di capacità di analisi temporale dei dati in tempo reale.

"Ora stiamo lavorando su sistemi più complessi e per migliorare ulteriormente le prestazioni della rete, "Lui ha aggiunto.

© 2019 Scienza X Rete