L'intelligenza artificiale un giorno supererà il pensiero umano? Il rapido progresso dell'IA, insieme alla nostra paura standard delle macchine, ha sollevato preoccupazioni sul fatto che le sue capacità un giorno inizieranno a crescere in modo incontrollabile, alla fine portandolo a conquistare il mondo e spazzare via l'umanità se decide che siamo un ostacolo ai suoi obiettivi. Questo momento viene solitamente definito "singolarità AI".

Un argomento contro la possibilità di un tale supremo, intelligenza inarrestabile e indefinitamente crescente è che avrebbe bisogno, per definizione, essere in grado di prevedere con precisione il futuro. E la teoria quantistica, uno dei modi chiave della scienza moderna per spiegare l'universo, dice che predire il futuro potrebbe non essere possibile perché l'universo è casuale. Ma cosa succede se pensiamo che prevedere il futuro sia impossibile solo perché non siamo abbastanza intelligenti da sapere il contrario?

L'intelligenza è un concetto molto complesso e astratto senza una definizione concordata. Però, c'è accordo comune su alcune delle componenti che compongono ogni tipo di intelligenza conosciuta. Uno di questi è la capacità di risolvere i problemi, che richiede la capacità di pianificare anticipando il futuro. Risolvere un problema, è fondamentale capire le condizioni attuali, prevedere come evolverà l'ambiente, e di anticipare l'esito delle azioni che verranno applicate.

Universo casuale

Le recenti teorie in fisica suggeriscono che l'universo è estremamente caotico e casuale. Prendiamo l'esempio di elementi chimici instabili che alla fine subiscono un decadimento radioattivo in un'altra sostanza. Puoi stimare quanto tempo impiegherà una certa quantità di questo elemento a decadere, ma non puoi dire con certezza quando lo farà un singolo atomo di esso. Allo stesso modo, puoi misurare la posizione o la quantità di moto di una particella ma, per alcune ragioni legate alla teoria quantistica, non puoi conoscerli entrambi allo stesso tempo con assoluta precisione. (Questo è noto come principio di indeterminazione di Heisenberg.)

Supponendo che queste teorie siano corrette, suggeriscono che, oltre un certo livello di dettaglio, l'universo è in definitiva imprevedibile, caotico e instabile. Ciò significherebbe che qualsiasi tipo di intelligenza in crescita alla fine raggiungerebbe un punto in cui non può più migliorare le sue previsioni sul futuro e quindi non può aumentare ulteriormente l'intelligenza. In altre parole, non c'è il rischio di un'IA in fuga, perché le leggi fisiche dell'universo pongono alcuni limiti rigidi molto vincolanti. Ad esempio, dati i limiti noti alla prevedibilità del tempo, un sistema di intelligenza artificiale non sarà in grado di superare in astuzia gli umani sfruttando previsioni meteorologiche a lungo termine estremamente accurate per pianificare azioni future.

È molto confortante credere che la natura dell'universo sia, in un certo senso, prevenire un'escalation dell'IA. Ma c'è una prospettiva alternativa. E se gli umani percepissero l'universo come casuale e caotico solo perché le nostre capacità cognitive e di ragionamento sono troppo limitate? Siamo consapevoli di alcuni dei limiti della comprensione umana ma, parafrasando Donald Rumsfeld, non sappiamo ciò che non sappiamo.

Prendendo questa prospettiva, può essere il caso che l'universo sia invece deterministico, e quindi del tutto prevedibile, ma in un modo estremamente complesso che noi umani non possiamo afferrare. Albert Einstein sosteneva che la teoria quantistica fosse una descrizione incompleta dell'universo e che ci devono essere variabili nascoste che non comprendiamo ancora ma che contengono la chiave per determinare eventi futuri.

Ciò cambierebbe la situazione sulla possibilità di una singolarità dell'IA. Un'intelligenza super avanzata potrebbe essere in grado di rivelare queste variabili nascoste e comprendere così la natura prevedibile dell'universo, liberare tutto il potenziale della macchina. Vale la pena notare che gli approcci AI sono già utilizzati per fare automaticamente scoperte in fisica.

A livello pratico, la singolarità non sembra così plausibile dato quanto sia ancora limitata l'IA. I recenti progressi nell'intelligenza artificiale sono stati raggiunti tramite la cosiddetta IA stretta, progettato per svolgere un compito ben definito come giocare a scacchi o guidare un'auto. Sebbene l'IA ristretta possa superare gli umani in alcune attività, c'è poco da suggerire che l'IA più generale in grado di emulare la capacità degli esseri umani di rispondere a molti compiti diversi sarà consegnata e metterà a rischio gli esseri umani nel prossimo futuro.

Ma non possiamo escluderlo completamente. Poiché abbiamo ancora una conoscenza limitata della natura dell'universo, e del potere dell'IA, forse è meglio giocare sul sicuro. Anche senza una singolarità, L'IA avrà un impatto drammatico sulla società umana. Dobbiamo lavorare il più duramente possibile per garantire che l'IA sia vantaggiosa per l'umanità, non una minaccia per esso.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.