Una nuova prova del professor David Wolpert dell'SFI invia un messaggio umiliante alle aspiranti super intelligenze:non puoi sapere tutto in ogni momento.

La dimostrazione inizia formalizzando matematicamente il modo in cui un "dispositivo di inferenza, " dire, uno scienziato armato di supercomputer, favolosa attrezzatura sperimentale, eccetera., possono avere conoscenza dello stato dell'universo che li circonda. Se la conoscenza di quello scienziato viene acquisita osservando il loro universo, controllandolo, prevedere cosa accadrà dopo, o dedurre ciò che è accaduto in passato, c'è una struttura matematica che limita quella conoscenza. La chiave è che il dispositivo di inferenza, la loro conoscenza, e la variabile fisica di cui (potrebbero) sapere qualcosa, sono tutti sottosistemi dello stesso universo. Tale accoppiamento limita ciò che il dispositivo può conoscere. In particolare, Wolpert dimostra che c'è sempre qualcosa che il dispositivo di inferenza non può prevedere, e qualcosa che non possono ricordare, e qualcosa che non possono osservare.

"In un certo senso questo formalismo può essere visto come molte diverse estensioni dell'affermazione [di Donald MacKay] che 'una previsione riguardante il futuro del narratore non può spiegare l'effetto dell'apprendimento da parte del narratore di quella previsione, '", spiega Wolpert. "Forse l'estensione più semplice è che, quando formalizziamo [i dispositivi di inferenza] matematicamente, notiamo che gli stessi risultati di impossibilità che valgono per le previsioni del futuro - preoccupazione di MacKay - valgono anche per i ricordi del passato. Il tempo è una variabile arbitraria, non gioca alcun ruolo in termini di diversi stati dell'universo."

Non tutti possono avere ragione

Cosa succede se non richiediamo che un dispositivo di inferenza sappia tutto del loro universo, ma solo che sa il più che si potrebbe sapere? La struttura matematica di Wolpert mostra che in quell'universo non possono coesistere due dispositivi di inferenza che hanno entrambi il libero arbitrio (opportunamente definito) e hanno la massima conoscenza dell'universo. Potrebbe esserci (o no) uno di questi "dispositivi di super inferenza" in un dato universo, ma non più di uno. Wolpert si riferisce scherzosamente a questo risultato come "il teorema del monoteismo, " poiché mentre non vieta che ci sia una divinità nel nostro universo, vieta che ce ne siano più di uno.

Come esempio, supponiamo che Bob e Alice siano entrambi scienziati con capacità computazionali illimitate. Inoltre, supponiamo che entrambi abbiano "libero arbitrio, " in quanto la domanda che Bob si pone non limita le possibili domande che Alice potrebbe porsi, e viceversa. (Questo si rivela cruciale.) Quindi è impossibile per Bob prevedere (o retrodire) ciò che Alice pensa in un altro momento se ad Alice viene chiesto anche di prevedere ciò che Bob non sta pensando in quel momento.

Wolpert paragona questa proposizione al paradosso del bugiardo cretese, in cui Epimenide di Cnosso, un cretese, notoriamente affermato "tutti i cretesi sono bugiardi". A differenza dell'affermazione di Epimenide, però, che espone il problema dei sistemi che hanno capacità di autoreferenzialità, Il ragionamento di Wolpert si applica anche ai dispositivi di inferenza senza tale capacità.

Inoltre, nel formalismo di Wolpert, lo stesso scienziato, considerato in due momenti diversi nel tempo, sono due diversi dispositivi di inferenza. Quindi, mentre potrebbe essere che un dispositivo di inferenza sia un "dispositivo di super inferenza" in un momento, non potevano essere così più di una volta. Di nuovo ironico, si riferisce a questo come al teorema del "deismo", poiché permette che ci sia una divinità che sa il massimo che potrebbe essere conosciuto all'inizio dell'universo, ma proibisce loro di essere di nuovo così ben informato.

Poiché non si basa su teorie specifiche della realtà fisica come la meccanica quantistica o la relatività, la nuova prova presenta un ampio insieme di limiti per esplorare la natura della conoscenza scientifica.

"Nessuno di questi risultati che limitano la conoscenza acquisita dalla previsione si basa sul fatto che ci siano processi caotici nell'universo... non importa quali siano le leggi della fisica o se Alice è computazionalmente più potente di una macchina di Turing, " dice Wolpert. "Tutto questo è indipendente da quello ed è molto più ampio".

Questa ricerca sta procedendo in molte direzioni diverse, che vanno dalla logica epistemica a una teoria delle macchine di Turing. In particolare, Wolpert e i suoi colleghi stanno creando un ambiente più sfumato, quadro probabilistico che consentirà loro di esplorare non solo i limiti di una conoscenza assolutamente corretta, ma anche cosa succede quando i dispositivi di inferenza non sono tenuti a conoscere con una precisione del 100%.

"E se Epimenide avesse detto 'la probabilità che un cretese sia un bugiardo è maggiore di x percento?'" Passare dall'impossibilità alla probabilità potrebbe dirci se conoscere una cosa con maggiore certezza limita intrinsecamente la capacità di conoscerne un'altra. Secondo Wolpert, "Stiamo ottenendo dei risultati molto intriganti."