Guardando la proiezione del 50° anniversario di "2001:Odissea nello spazio, " Ho trovato me stesso, un matematico e informatico la cui ricerca include lavori relativi all'intelligenza artificiale, confrontando la visione del futuro della storia con il mondo di oggi.

Il film è stato realizzato grazie alla collaborazione con lo scrittore di fantascienza Arthur C. Clarke e il regista Stanley Kubrick, ispirato al romanzo di Clarke "Childhood's End" e al suo racconto meno noto "The Sentinel". Un sorprendente lavoro di finzione speculativa, descrive – in termini a volte speranzosi e altre volte ammonitori – un futuro di contatto alieno, viaggio interplanetario, macchine coscienti e persino il prossimo grande salto evolutivo dell'umanità.

Il modo più ovvio in cui il 2018 non è stato all'altezza della visione di "2001" è nei viaggi spaziali. Le persone non visitano ancora regolarmente le stazioni spaziali, fare visite insignificanti a una delle numerose basi lunari, né viaggiare su altri pianeti. Ma Kubrick e Clarke hanno fatto centro quando immaginavano le possibilità, problemi e sfide del futuro dell'intelligenza artificiale.

Cosa possono fare i computer?

Un dramma principale del film può essere visto in molti modi come una battaglia all'ultimo sangue tra uomo e computer. L'intelligenza artificiale di "2001" è incarnata in HAL, la presenza computazionale onnisciente, il cervello dell'astronave Discovery One e forse il personaggio più famoso del film. HAL segna l'apice del successo computazionale:una consapevolezza di sé, dispositivo apparentemente infallibile e una presenza onnipresente nella nave, sempre in ascolto, sempre guardando.

HAL non è solo un assistente tecnologico per l'equipaggio, ma piuttosto – nelle parole del comandante della missione Dave Bowman – il sesto membro dell'equipaggio. Gli umani interagiscono con HAL parlandogli, e risponde con voce maschile misurata, da qualche parte tra un genitore severo ma indulgente e un'infermiera ben intenzionata. HAL è Alexa e Siri, ma molto meglio. HAL ha il controllo completo della nave e inoltre, come risulta, è l'unico membro dell'equipaggio che conosce il vero obiettivo della missione.

Etica nella macchina

La tensione del terzo atto del film ruota attorno a Bowman e al suo compagno di squadra Frank Poole che diventano sempre più consapevoli del malfunzionamento di HAL, e la scoperta da parte di HAL di questi sospetti. Dave e Frank vogliono staccare la spina da un computer guasto, mentre HAL consapevole di sé vuole vivere. Tutti vogliono completare la missione.

La partita a scacchi della vita o della morte tra gli umani e HAL offre precursori di alcune delle domande odierne sulla prevalenza e l'impiego dell'intelligenza artificiale nella vita quotidiana delle persone.

Innanzitutto è la questione di quanto controllo le persone dovrebbero cedere alle macchine artificialmente intelligenti, indipendentemente da quanto "intelligenti" possano essere i sistemi. Il controllo di Discovery di HAL è come una versione nello spazio profondo della casa in rete del futuro o dell'auto senza conducente. Cittadini, politici, esperti e ricercatori stanno ancora esplorando il grado in cui l'automazione potrebbe – o dovrebbe – togliere gli esseri umani dal giro. Alcune delle considerazioni riguardano domande relativamente semplici sull'affidabilità delle macchine, ma altri problemi sono più sottili.

Le azioni di una macchina computazionale sono dettate da decisioni codificate dagli esseri umani in algoritmi che controllano i dispositivi. Gli algoritmi generalmente hanno un obiettivo quantificabile, verso il quale ciascuna delle sue azioni dovrebbe progredire – come vincere una partita a dama, scacchi o vai. Proprio come un sistema di intelligenza artificiale analizzerebbe le posizioni dei pezzi del gioco su una scacchiera, può anche misurare l'efficienza di un magazzino o il consumo energetico di un data center.

Ma cosa succede quando sorge un dilemma morale o etico lungo il percorso verso l'obiettivo? Per l'HAL consapevole, completare la missione - e rimanere in vita - vince se confrontato con le vite dell'equipaggio. E un'auto senza conducente? È la missione di un'auto a guida autonoma, ad esempio, per portare un passeggero da un luogo all'altro il più rapidamente possibile o per evitare di uccidere i pedoni? Quando qualcuno passa davanti a un veicolo autonomo, quegli obiettivi sono in conflitto. Potrebbe sembrare una "scelta" ovvia da programmare, ma cosa succede se l'auto ha bisogno di "scegliere" tra due diversi scenari, ognuno dei quali causerebbe una morte umana?

Sotto sorveglianza

In una scena classica, Dave e Frank entrano in una parte della stazione spaziale dove pensano che HAL non possa sentirli per discutere dei loro dubbi sul funzionamento di HAL e sulla sua capacità di controllare la nave e guidare la missione. Affrontano l'idea di spegnerlo. Non sanno che le telecamere di HAL possono vederli:il computer sta leggendo le loro labbra attraverso la finestra del pod e viene a conoscenza dei loro piani.

Nel mondo moderno, una versione di quella scena accade tutto il giorno ogni giorno. La maggior parte di noi è effettivamente costantemente monitorata, attraverso i nostri telefoni quasi sempre accesi o la sorveglianza aziendale e governativa delle attività reali e online. Il confine tra privato e pubblico è diventato e continua ad essere sempre più labile.

Le relazioni dei personaggi nel film mi hanno fatto riflettere molto su come persone e macchine potrebbero coesistere, o addirittura evolvere insieme. Attraverso gran parte del film, anche gli umani si parlano blandamente, senza molto tono o emozione - come potrebbero parlare con una macchina, o come una macchina potrebbe parlare con loro. La famosa scena della morte di HAL – in cui Dave disconnette metodicamente i suoi collegamenti logici – mi ha fatto chiedere se alle macchine intelligenti sarà mai offerto qualcosa di equivalente ai diritti umani.

Clarke riteneva del tutto possibile che il tempo degli umani sulla Terra fosse solo un "breve luogo di riposo" e che la maturazione e l'evoluzione della specie avrebbero necessariamente portato le persone ben oltre questo pianeta. "2001" si chiude ottimisticamente, volteggiare un umano attraverso lo "Stargate" per celebrare la rinascita della razza. Per fare questo in realtà sarà necessario che le persone capiscano come utilizzare al meglio le macchine e i dispositivi che stanno costruendo, e per essere sicuri di non lasciare che quelle macchine ci controllino.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.