(a) Il principio generale dell'Anticipated Learning Machine (ALM). L'attrattore osservato, un attrattore di ritardo e gli attrattori di non ritardo campionati sono tutti topologicamente coniugati tra loro. Ciascun attrattore non ritardato campionato conserva le informazioni dinamiche del sistema in modi diversi. Integrando le informazioni contenute in questi attrattori non ritardati campionati, potremmo trovare un'accurata mappa uno a uno anche in condizioni di deterioramento del rumore. (b) Macchina per l'apprendimento anticipata. Per ogni valore futuro, quelle mappe sono co-addestrate in una mappa unificata Ψ. Quando le mappe vengono addestrate, la somma ponderata viene utilizzata come previsione. Il valore previsto viene quindi utilizzato come etichetta durante l'addestramento di altre mappe per prevedere il punto temporale successivo. Chiaramente, ALM Ψ trasforma l'input spaziale X(tm) nell'output temporale Z(tm) in ogni punto tm. Credito:©Science China Press
Fare una previsione accurata basata sui dati osservati, in particolare da serie storiche a breve termine, è di grande interesse in varie discipline, dalla biologia molecolare, neuroscienza, geoscienza, e l'economia alle scienze atmosferiche, a causa della disponibilità dei dati o della non stazionarietà variabile nel tempo. Però, la maggior parte dei metodi esistenti richiede misurazioni sufficientemente lunghe di serie temporali o un numero elevato di campioni, e non esiste un metodo efficace disponibile per la previsione con serie temporali a breve termine a causa della mancanza di informazioni.
Per affrontare questo problema, Prof. Chen Luonan (Istituto di Biochimica e Biologia Cellulare, Accademia Cinese delle Scienze) con il Dr. Chen Chuan (Università Sun Yat-sen), Il Prof. Ma Huanfei (Soochow University) e il Prof. Aihara Kazuyuki (Università di Tokyo) hanno proposto un nuovo metodo basato sui dati basato sulla dinamica, macchina per l'apprendimento anticipato (ALM), per ottenere previsioni precise sullo stato futuro basate su dati a breve termine ma ad alta dimensionalità. ALM è una rete neurale multistrato in cui le variabili ad alta dimensione vengono prese come neuroni di input (variabili multiple ma in un singolo punto temporale) ma una variabile target viene presa come neuroni di output (variabile singola ma in più punti temporali). In questo modo, ALM è in grado di trasformare le recenti informazioni di correlazione/spaziali di variabili ad alta dimensionalità in future informazioni dinamiche/temporali di qualsiasi variabile target, cioè dalle equazioni di trasformazione delle informazioni spazio-temporali (STI).
Nello specifico, ALM può essere ben addestrato per rappresentare la mappa di inclusione distribuita casualmente (RDE) per le equazioni STI da un gran numero di campioni di addestramento generati con lo schema Dropout e lo schema di addestramento coerente proposto, prevedendo così la variabile target in modo accurato e robusto, anche da dati a breve termine. Esperimenti approfonditi sui dati ad alta dimensionalità a breve termine provenienti da sistemi sia sintetici che reali hanno dimostrato prestazioni significativamente superiori dell'ALM rispetto ai metodi esistenti.
Rispetto alle tradizionali reti neurali (o altri approcci di apprendimento automatico) che scavano le statistiche storiche del sistema originale ad alta dimensionalità e richiedono quindi un gran numero di campioni, ALM ricostruisce in modo efficiente e robusto la sua dinamica anche con un piccolo numero di campioni vincolando a uno spazio di bassa dimensione che è in realtà una proprietà intrinseca di un tale sistema dissipativo. Basato su dinamiche non lineari per trasformare le informazioni spaziali di tutte le variabili ad alta dimensione misurate nell'evoluzione temporale della variabile target imparando le equazioni STI, ALM apre una nuova strada per l'apprendimento automatico basato sulla dinamica o l'apprendimento anticipato "intelligente".
"Come considerare la forte non linearità e/o stocasticità dei sistemi dinamici anche con i dati rumorosi osservati, e inoltre come effettuare analisi teoriche più approfondite e sviluppare ulteriormente un quadro appropriato che tenga conto di questi problemi rimane un problema aperto e interessante in futuro, " affermano gli autori.
