La startup francese LightOn sta attualmente lavorando allo sviluppo di tecnologie alimentate dalla luce. Credito:Dmitriy Rybin / Shutterstock
Stiamo assistendo all'adozione accelerata dell'intelligenza artificiale (AI), che ha il potenziale per tradursi in una varietà di cambiamenti sociali, compresi miglioramenti all'economia, migliori condizioni di vita, più facile accesso all'istruzione, benessere, e intrattenimento. Un futuro tanto atteso, però, è contaminato da questioni relative alla privacy, spiegabilità, responsabilità, per dirne alcuni, che costituiscono una minaccia per l'adozione regolare dell'IA, e che sono al centro di vari dibattiti mediatici.
Un aspetto forse più preoccupante è legato al fatto che le attuali tecnologie AI sono del tutto insostenibili, e se non agiamo in fretta, questo diventerà il principale ostacolo all'ampia adozione dell'intelligenza artificiale nella società.
AI e machine learning bayesiano
Ma prima di addentrarci nei temi della sostenibilità dell'IA, cos'è l'IA? L'IA mira a costruire agenti artificiali in grado di percepire e ragionare sul loro ambiente, e infine imparare interagendo con esso. L'apprendimento automatico (ML) è una componente essenziale dell'intelligenza artificiale, che consente di stabilire correlazioni e relazioni causali tra le variabili di interesse a partire dai dati e dalla conoscenza preventiva dei processi che caratterizzano l'ambiente dell'agente.
Per esempio, nelle scienze della vita, La ML può essere utile per determinare la relazione tra il volume della materia grigia e la progressione della malattia di Alzheimer, considerando che nelle scienze ambientali può essere utile stimare l'effetto della CO 2 emissioni sul clima. Un aspetto chiave di alcune tecniche di machine learning, in particolare ML bayesiano, è la possibilità di farlo tenendo conto dell'incertezza dovuta alla mancanza di conoscenza del sistema, o il fatto che sia disponibile una quantità finita di dati.
Tale incertezza è di fondamentale importanza nel processo decisionale quando il costo associato a risultati diversi è sbilanciato. Un paio di esempi di domini in cui l'intelligenza artificiale può essere di enorme aiuto includono una varietà di scenari medici (ad es. diagnosi, prognosi, trattamento personalizzato), scienze ambientali (es. clima, terremoto/tsunami), e policy making (ad es. traffico, lotta alle disuguaglianze sociali).
Credito:MIT Technology Review Fonte:Strubell et al.
IA insostenibile
I recenti e spettacolari progressi nel machine learning hanno contribuito a un aumento senza precedenti di interesse per l'IA, che ha innescato enormi quantità di finanziamenti privati nel dominio (Google, Facebook, Amazzonia, Microsoft, OpenAI). Tutto questo sta spingendo la ricerca sul campo, ma in qualche modo sta ignorando il suo impatto sull'ambiente. Il consumo energetico degli attuali dispositivi informatici sta crescendo a un ritmo incontrollato. Si stima che entro i prossimi dieci anni il consumo energetico dei dispositivi informatici raggiungerà il 60% della quantità totale di energia che verrà prodotta, e questo diventerà completamente insostenibile entro il 2040.
Recenti studi mostrano che l'industria ICT oggi genera circa il 2% delle emissioni globali di CO₂, paragonabile all'industria aeronautica mondiale, ma la forte curva di crescita prevista per le emissioni basate sulle TIC è davvero allarmante e supera di gran lunga l'aviazione. Poiché ML e AI sono discipline ICT in rapida crescita, questa è una prospettiva preoccupante. Studi recenti mostrano che l'impronta di carbonio della formazione di un famoso modello ML, chiamato codificatore automatico, possono inquinare fino a cinque auto nella loro vita.
Se, al fine di creare migliori condizioni di vita e migliorare la nostra stima del rischio, stiamo avendo un impatto così ampio sull'ambiente, siamo destinati a fallire. Cosa possiamo fare per cambiare radicalmente questo?
Sia la luce
Cominciano ad apparire soluzioni basate su transistor a questo problema. Google ha sviluppato la Tensor Processing Unit (TPU) e l'ha resa disponibile nel 2018. Le TPU offrono un consumo energetico molto inferiore rispetto a GPU e CPU per unità di calcolo. Ma possiamo staccarci dalla tecnologia basata su transistor per l'elaborazione a bassa potenza e forse più veloce? La risposta è si! Negli ultimi due anni, ci sono stati tentativi di sfruttare la luce per calcoli veloci ea bassa potenza. Tali soluzioni sono alquanto rigide nella progettazione dell'hardware e sono adatte a modelli ML specifici, per esempio., reti neurali.
interessante, La Francia è in prima linea in questo, con lo sviluppo di hardware da finanziamenti privati e fondi nazionali per la ricerca per rendere questa rivoluzione una possibilità concreta. L'azienda francese LightOn ha recentemente sviluppato un nuovo dispositivo basato sull'ottica, che hanno chiamato Optical Processing Unit (OPU).
In pratica, Le OPU eseguono un'operazione specifica, che è una trasformazione lineare dei vettori di input seguita da una trasformazione non lineare. interessante, questo viene fatto in hardware sfruttando le proprietà di diffusione della luce, in modo che in pratica questi calcoli avvengano alla velocità della luce e con un basso consumo energetico. Inoltre, è possibile gestire matrici molto grandi (dell'ordine di milioni di righe e colonne), che sarebbe difficile con CPU e GPU. A causa della dispersione della luce, questa trasformazione lineare è l'equivalente di una proiezione casuale, per esempio. la trasformazione dei dati di input da una serie di numeri casuali la cui distribuzione può essere caratterizzata. Le proiezioni casuali sono utili? Sorprendentemente sì! Una prova del concetto che questo può essere utile per scalare i calcoli per alcuni modelli ML (macchine kernel, che sono alternative alle reti neurali) è stato riportato qui. Altri modelli ML possono anche sfruttare proiezioni casuali per la previsione o il rilevamento di punti di modifica nelle serie temporali.
Riteniamo che questa sia una direzione straordinaria per rendere il machine learning moderno scalabile e sostenibile. La sfida più grande per il futuro, però, è come ripensare il design e l'implementazione dei modelli ML bayesiani in modo da poter sfruttare i calcoli offerti dalle OPU. Solo ora stiamo iniziando a sviluppare la metodologia necessaria per sfruttare appieno questo hardware per Bayesian ML. Di recente ho ricevuto una borsa di studio francese per realizzare questo.
È affascinante come la luce e la casualità non siano solo pervasive in natura, sono anche matematicamente utili per eseguire calcoli che possono risolvere problemi reali.
Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.