Qual è stata la tua prima reazione quando hai sentito parlare di Blake Lemoine, l'ingegnere di Google che il mese scorso ha annunciato che il programma di intelligenza artificiale su cui stava lavorando aveva sviluppato la coscienza?

Se, come me, sei istintivamente sospettoso, potrebbe essere qualcosa del tipo:questo ragazzo è serio? Crede onestamente a quello che sta dicendo? O è una bufala elaborata?

Metti da parte le risposte a queste domande. Concentrati invece sulle domande stesse. Non è vero che anche solo chiederglielo presuppone qualcosa di cruciale in Blake Lemoine:nello specifico, è cosciente?

In altre parole, possiamo tutti immaginare che Blake Lemoine sia ingannevole.

E possiamo farlo perché supponiamo che ci sia una differenza tra le sue convinzioni interiori - ciò in cui crede sinceramente - e le sue espressioni esteriori:ciò che afferma credere.

Non è questa differenza il segno della coscienza? Supponiamo mai lo stesso per un computer?

La coscienza:'Il problema difficile'

Non per niente i filosofi hanno iniziato a chiamare la coscienza "il problema difficile". È notoriamente difficile da definire.

Ma per il momento, diciamo che un essere cosciente è uno capace di avere un pensiero e di non divulgarlo.

Ciò significa che la coscienza sarebbe il prerequisito per l'ironia, o per dire una cosa intendendo il contrario. So che sei ironico quando mi rendo conto delle tue parole non corrispondono ai tuoi pensieri.

Che la maggior parte di noi abbia questa capacità, e che la maggior parte di noi comunichi regolarmente i propri significati non detti in questo modo, è qualcosa che, penso, dovrebbe sorprenderci più spesso di quanto non faccia.

Sembra quasi discretamente umano.

Gli animali possono certamente essere divertenti, ma non deliberatamente.

E le macchine? Possono ingannare? Possono mantenere i segreti? Possono essere ironici?

IA e ironia

È una verità universalmente riconosciuta (almeno tra gli accademici) che qualsiasi domanda di ricerca che potresti inventare con le lettere "AI" è già stata studiata da qualche parte da un esercito di scienziati computazionali oscenamente ben dotati - spesso, se non sempre, finanziato dalle forze armate statunitensi.

Questo è certamente il caso della questione dell'intelligenza artificiale e dell'ironia, che ha recentemente suscitato un notevole interesse di ricerca.

Naturalmente, dato che l'ironia consiste nel dire una cosa mentre si intende il contrario, creare una macchina in grado di rilevarla, per non parlare di generarla, non è un compito semplice.

Ma se potessimo creare una macchina del genere, avrebbe una moltitudine di applicazioni pratiche, alcune più sinistre di altre.

Nell'era delle recensioni online, ad esempio, i rivenditori sono diventati molto appassionati del cosiddetto "mining di opinioni" e "analisi del sentimento", che utilizza l'IA per mappare non solo il contenuto, ma l'atmosfera dei commenti dei revisori.

Sapere se il tuo prodotto viene elogiato o sta diventando il bersaglio di uno scherzo è un'informazione preziosa.

Oppure considera la moderazione dei contenuti sui social media. Se vogliamo limitare gli abusi online proteggendo la libertà di parola, non sarebbe utile sapere quando qualcuno è serio e quando sta scherzando?

O se qualcuno twitta che si è appena unito alla cellula terroristica locale o che sta mettendo una bomba nella valigia e si sta dirigendo verso l'aeroporto? (A proposito, non twittare mai.) Immagina se potessimo determinare all'istante se sono seri o se sono solo "ironiani".

In effetti, data la vicinanza dell'ironia alla menzogna, non è difficile immaginare come l'intera macchina oscura della sorveglianza governativa e aziendale che è cresciuta attorno alle nuove tecnologie di comunicazione possa trovare estremamente interessante la prospettiva di un rilevatore di ironia.

E questo spiega molto la crescente letteratura sull'argomento.

AI, da Clippy al riconoscimento facciale

Per comprendere lo stato della ricerca attuale sull'IA e sull'ironia, è utile conoscere un po' la storia dell'IA più in generale.

Tale cronologia è in genere suddivisa in due periodi.

Fino agli anni '90, i ricercatori hanno cercato di programmare i computer con una serie di regole formali artigianali su come comportarsi in situazioni predefinite.

Se hai usato Microsoft Word negli anni '90, potresti ricordare l'irritante assistente d'ufficio Clippy, che spuntava continuamente per offrire consigli indesiderati.

Dall'inizio del secolo, quel modello è stato sostituito dall'apprendimento automatico basato sui dati e dalle reti neurali.

Qui, enormi depositi di esempi di un dato fenomeno vengono tradotti in valori numerici, sui quali i computer possono eseguire complesse operazioni matematiche per determinare schemi che nessun essere umano potrebbe mai scoprire.

Inoltre, il computer non si limita ad applicare una regola. Piuttosto, impara dall'esperienza e sviluppa nuove operazioni indipendenti dall'intervento umano.

La differenza tra i due approcci è la differenza tra Clippy e, ad esempio, la tecnologia di riconoscimento facciale.

Ricerca sul sarcasmo

Per costruire una rete neurale con la capacità di rilevare l'ironia, i ricercatori si concentrano inizialmente su quella che alcuni considererebbero la sua forma più semplice:il sarcasmo.

I ricercatori iniziano con i dati strappati dai social media.

Ad esempio, potrebbero raccogliere tutti i tweet etichettati #sarcasm o i post di Reddit etichettati /s, una scorciatoia che gli utenti di Reddit utilizzano per indicare che non sono seri.

Il punto non è insegnare al computer a riconoscere i due significati separati di un dato post sarcastico. In effetti, il significato non ha alcuna rilevanza.

Al computer viene invece chiesto di cercare schemi ricorrenti, o ciò che un ricercatore chiama "impronte digitali sintattiche":parole, frasi, emoji, punteggiatura, errori, contesti e così via.

Inoltre, il set di dati viene rafforzato aggiungendo più flussi di esempi, ad esempio altri post negli stessi thread o dallo stesso account.

Ogni nuovo esempio individuale viene quindi eseguito attraverso una batteria di calcoli fino ad arrivare a un'unica determinazione:sarcastica o non sarcastica.

Infine, un bot può essere programmato per rispondere a ogni poster originale e chiedere se erano sarcastici. Qualsiasi risposta può essere aggiunta alla crescente montagna di esperienza del computer.

Il tasso di successo dei più recenti rilevatori di sarcasmo si avvicina a un sorprendente 90%, maggiore, sospetto, di quanto potrebbero raggiungere molti umani.

Quindi, supponendo che l'IA continuerà ad avanzare alla velocità che ci ha portato da Clippy alla tecnologia di riconoscimento facciale in meno di due decenni, gli androidi ironici possono essere lontani?

Cos'è l'ironia?

Ma non c'è una differenza qualitativa tra l'ordinamento delle "impronte sintattiche" dell'ironia e la sua effettiva comprensione?

Alcuni suggerirebbero di no. Se si può insegnare a un computer a comportarsi esattamente come un essere umano, è irrilevante se sotto il suo comportamento si celi un mondo interno ricco di significati.

Ma l'ironia è probabilmente un caso unico:si basa sulla distinzione tra comportamenti esterni e convinzioni interne.

Qui vale la pena ricordare che, mentre gli scienziati computazionali si sono interessati solo di recente all'ironia, filosofi e critici letterari ci stanno pensando da molto tempo.

E forse esplorare quella tradizione farebbe luce, per così dire, su un nuovo problema.

Dei tanti nomi che si potrebbero invocare in questo contesto, due sono indispensabili:il filosofo romantico tedesco Friedrich Schlegel; e il teorico letterario post-strutturalista Paul de Man.

Per Schlegel, l'ironia non implica semplicemente un significato falso, esterno, e uno vero, interno. Piuttosto, ironia della sorte, due significati opposti vengono presentati come ugualmente veri. E l'indeterminazione che ne risulta ha implicazioni devastanti per la logica, in particolare la legge di non contraddizione, che sostiene che un'affermazione non può essere contemporaneamente vera e falsa.

De Man segue Schlegel su questo punto e, in un certo senso, universalizza la sua intuizione. Nota che ogni sforzo per definire un concetto di ironia è destinato a essere infettato dai fenomeni che pretende di spiegare.

In effetti, de Man crede che tutto il linguaggio sia infetto dall'ironia e comporti ciò che chiama "parabasi permanente". Poiché gli esseri umani hanno il potere di nascondere i propri pensieri l'uno all'altro, sarà sempre possibile, permanentemente possibile, che non intendano quello che stanno dicendo.

L'ironia, in altre parole, non è un linguaggio tra tanti. Struttura, o meglio, ossessiona, ogni uso del linguaggio e ogni interazione.

E in questo senso supera l'ordine della dimostrazione e del calcolo. La domanda è se lo stesso vale per gli esseri umani in generale.