Quasi tutti conoscono la storia di HAL 9000, il supercomputer killer nel film di riferimento di Stanley Kubrick 2001:Odissea nello spazio , il cui 50° anniversario sarà celebrato il 12 maggio, 2018 al 71° Festival di Cannes. In un'intrigante coincidenza di programmazione, IBM, Il partner di Kubrick durante le riprese di Una odissea spaziale , e Airbus hanno appena svelato il progetto CIMON (Crew Interactive Mobile Companion), un "intelligente, sistema mobile e interattivo di assistenza agli astronauti" che affiancherà la Stazione Spaziale Internazionale.

Questi due eventi ci spingono in un dibattito sui rischi creati dallo sviluppo della superintelligenza che potrebbe eliminare posti di lavoro su vasta scala o, persino peggio, cancellare la specie umana dalla faccia del pianeta e sollevare la questione di come valutare una tale minaccia.

Ad oggi, non abbiamo esperienza di incidenti o disastri dovuti a IA difettosa o dannosa. Però, l'immaginazione di artisti e scienziati è un tesoro di materiale che racconta la storia della superintelligenza liberata da ogni controllo umano.

Una storia di IA che va male

2001:Odissea nello spazio è un precursore delle controversie contemporanee. Racconta la storia della lotta e dell'eventuale conquista di un essere umano, l'unico sopravvissuto a un metodico programma di sterminio guidato da un supercomputer senziente.

A bordo dell'astronave Scoperta Uno , solo il supercomputer HAL 9000 è stato informato dai suoi creatori dello scopo della missione:raggiungere Giove e cercare segni di intelligenza extraterrestre. Sebbene considerato infallibile, HAL fa un errore. La macchina si rifiuta di ammetterlo, e, colto in fallo, afferma che l'errore è dovuto a "errore umano". In linea di principio gli umani sono i progettisti del computer ma, se c'è da credere, potrebbe in effetti essere il computer stesso? Adottando questo ragionamento, la macchina si dà uno status che i membri dell'equipaggio non potrebbero immaginare - quello di una vita, essere senziente e pensante.

Per l'equipaggio, L'errore di HAL è inaccettabile. Non c'è spazio per il perdono o la carità:l'errore può essere umano, ma non è una macchina Non c'è appello:HAL deve essere messo fuori servizio. Il supercomputer, onnipresente e onnisciente, scopre subito il progetto destinato a terminare la sua vita. Per sopravvivere e completare la sua missione, decide di eliminare l'equipaggio. Sopravvive solo un essere umano, L'astronauta David Bowman, e riprende, con ancora più determinazione, la missione omicidio digitale.

Bowman riesce a penetrare nel nucleo dell'unità e poi meccanicamente, si disconnette senza emozione e quasi cerimoniosamente, uno per uno, i circuiti di memoria della macchina dal loro alloggiamento. Come un bambino colto con la mano nel barattolo dei biscotti, il computer prova, parlando di sé, per far deragliare la lobotomia. In un ultimo tentativo, canta una canzone che ha imparato nelle sue prime ore di "vita", ma niente funziona, e alla fine la sua voce svanisce.

AI che può parlare di sé

Molto più che la storia di una lotta all'ultimo sangue, uno dei tesori del film è che considera la dimensione narrativa dell'IA. È in grado non solo di inventare storie su se stesso, ma può anche fallire a causa delle circostanze e dei propri errori. Così, l'eliminazione dell'equipaggio non è il risultato dell'autonomia di HAL 9000, ma da una "brutta storia" che la macchina si racconta, quello di credere che l'equipaggio possa compromettere la missione.

Il lavoro di Kubrick permette quindi di concepire i rischi causati dalla superintelligenza non in termini di dominio tecnico, ma come costruzione di un'identità narrativa imperfetta. Sebbene la realtà sia ancora lontana dal mettersi al passo con la finzione, vale la pena riflettere su alcuni risultati iniziali in questo settore.

Nel 2016, un romanzo intitolato Il giorno in cui un computer scrive un romanzo... Quasi ha vinto un premio letterario giapponese, Nikkei Hoshi Shinichi. È stato prescritto da un team di ricerca sull'intelligenza artificiale dell'Università di Hakodate, il cui lavoro consisteva inizialmente nella selezione di parole e frasi, definendo poi parametri che permettessero a un programma di "scrivere" il romanzo. Di più di 1, 450 iscrizioni per il premio, 11 era stato scritto, almeno in parte, da un non umano. Certo, la giuria non sapeva nulla degli "autori".

L'anno seguente, con lo stesso spirito ma senza un coautore digitale, Zack Thoutt, un fan della serie TV Game of Thrones , utilizzato una rete neurale alimentata con oltre 5, 000 pagine di testo dai libri su cui si basava per prevedere cosa potrebbe accadere dopo nella storia. Il risultato è tutt'altro che uguale al lavoro dell'autore George R. Martin, ma il testo è per la maggior parte, comprensibile e le previsioni sono simili ad alcune delle teorie popolari tra i fan della serie.

Più recentemente, un programma ideato dal Media Lab del MIT, battezzato "Shelley" in onore di Mary Shelley, l'autore di Frankenstein; o, Il moderno Prometeo – creato racconti terrificanti, progettato per spaventare. La prima fase è stata quella di addestrare il programma con storie scritte da umani prese da un database di oltre 140, 000 referenze. Nella seconda fase, il computer ha generato le proprie opere che ha migliorato collaborando con gli umani che hanno risposto ai suoi messaggi tramite Twitter.

E nel campo della lettura e della comprensione delle storie, Google ha appena lanciato il suo servizio "Talk to book" che consente agli utenti di conversare in linguaggio naturale con un algoritmo di apprendimento automatico che dovrebbe aiutarli nelle loro future scelte di lettura.

Storie che evocano i rischi dell'IA

Se, come HAL9000, I computer IA cercano di scrivere storie, sono ancora lontani dal raggiungere gli standard fissati dagli autori umani. Sebbene nessuno possa prevedere con certezza come potrebbe essere la superintelligenza artificiale, resta possibile immaginarlo producendo storie che stimolino il nostro pensiero.

Lo storico Yuval Noah Harari ha intrapreso il compito, immaginando un futuro in cui l'automazione delle macchine provocherebbe la scomparsa della maggior parte dei posti di lavoro. Ha sostenuto che gli esseri umani rischiano di perdere il loro valore economico perché l'intelligenza sarà disaccoppiata dalla coscienza. Mentre l'intelligenza è necessaria per guidare un'auto o diagnosticare una malattia, la coscienza e le esperienze umane soggettive non sono obbligatorie.

Ancora più allarmista, il filosofo Nick Bostrom avanza l'idea che gli umani probabilmente non avranno l'opportunità di sperimentare questa disastrosa rivoluzione perché è probabile che verranno sterminati non appena apparirà la superintelligenza artificiale.

Sia Harari che Bostrom basano le loro conclusioni su una riduzione dell'azione alla sua dimensione funzionale, giudicato unicamente in termini di efficacia. Ma una tale visione trascura intere aree dell'esistenza umana. Per rimediare a questo, Il neuroscienziato Antonio Damasio sostiene che la vita rappresenta un atto complesso in cui i sentimenti sono l'espressione di una lotta permanente per raggiungere un equilibrio che è alla base dell'esistenza umana. Per Damasio, senza soggettività non c'è creatività, e senza le emozioni che si manifestano nei rapporti tra il corpo e il cervello per percepire la realtà, non c'è umanità.

Accettare questo relega Kubrick al rango di un genio la cui profezia, anche se poetico, è irrealistico. Significa anche ammettere che un computer AI non sarà mai in grado di ridefinire la propria missione a spese dei suoi creatori. E infine, dobbiamo prendere molto sul serio l'idea che il rischio principale per l'umanità sia una guerra cibernetica iniziata dagli stessi umani – un conflitto popolato da droni e robot killer supportati da sciami di virus informatici che sono tutti più intelligenti degli altri.

Questo articolo è stato originariamente pubblicato su The Conversation. Leggi l'articolo originale.