Il cortometraggio Slaughterbots descrive un futuro prossimo in cui sciami di micro droni assassinano migliaia di persone per le loro convinzioni politiche. Pubblicato nel novembre 2017 da accademici e attivisti che avvertono dei pericoli dell'intelligenza artificiale avanzata (AI), è diventato subito virale, attirando oltre 3 milioni di visualizzazioni fino ad oggi. Ha contribuito a innescare un dibattito pubblico sul futuro delle armi autonome e ha esercitato pressioni sui diplomatici riuniti alla Convenzione delle Nazioni Unite sulle armi convenzionali.

Ma questo tipo di narrazione fantascientifica speculativa non è solo utile per attirare l'attenzione. Le persone che progettano e costruiscono tecnologie avanzate possono utilizzare le storie per considerare le conseguenze del loro lavoro e assicurarsi che venga utilizzato per il bene. E pensiamo che questo tipo di "prototipazione fantascientifica" o "design fiction" potrebbe aiutare a prevenire che i pregiudizi umani si facciano strada nella nuova tecnologia, rafforzando ulteriormente i pregiudizi e le ingiustizie della società.

Un bias può portare alla preferenza arbitraria di alcune categorie (di risultati, le persone, o idee) sugli altri. Per esempio, alcune persone potrebbero essere prevenute contro l'assunzione di donne per lavori esecutivi, che ne siano consapevoli o meno.

La tecnologia costruita attorno ai dati che registrano tale distorsione può finire per replicare il problema. Ad esempio, il software di reclutamento progettato per selezionare i migliori CV per un particolare lavoro potrebbe essere programmato per cercare caratteristiche che riflettano un pregiudizio inconscio nei confronti degli uomini. In quale caso, l'algoritmo finirà per favorire i CV degli uomini. E questo non è teorico, in realtà è successo ad Amazon.

La progettazione di algoritmi senza considerare le possibili implicazioni negative è stata paragonata ai medici "che scrivono dei benefici di un dato trattamento e ignorano completamente gli effetti collaterali, non importa quanto siano seri."

Alcune aziende tecnologiche e ricercatori stanno cercando di affrontare il problema. Per esempio, Google ha elaborato una serie di principi etici per guidare lo sviluppo dell'IA. E gli accademici del Regno Unito hanno lanciato un'iniziativa chiamata Not-Equal che mira a incoraggiare una maggiore equità e giustizia nella progettazione e nell'uso della tecnologia.

Il problema è che, pubblicamente, le aziende tendono a fornire solo una visione positiva delle potenziali conseguenze delle tecnologie del prossimo futuro. Per esempio, le auto senza conducente sono spesso descritte come la soluzione di tutti i nostri problemi di trasporto, dai costi alla sicurezza, ignorando i maggiori pericoli degli attacchi informatici o il fatto che potrebbero incoraggiare le persone a camminare o andare in bicicletta di meno.

La difficoltà nel capire come funzionano le tecnologie digitali, specialmente quelli che sono fortemente guidati da algoritmi oscuri, rende anche più difficile per le persone avere una visione complessa e completa dei problemi. Questa situazione produce una tensione tra una narrativa positiva rassicurante e il vago sospetto che i pregiudizi siano in qualche modo incorporati nelle tecnologie che ci circondano. È qui che pensiamo che possa entrare in gioco la narrazione attraverso il design fiction.

Le storie sono un metodo naturale per pensare alle possibilità e alle situazioni complesse, e li abbiamo ascoltati per tutta la vita. La fantascienza può aiutarci a speculare sull'impatto delle tecnologie del prossimo futuro sulla società, come fa Slaughterbots. Questo può includere anche questioni di giustizia sociale, come il modo in cui certi gruppi, come rifugiati e migranti, possono essere esclusi dalle innovazioni digitali.

Rivelare il (possibile) futuro

Le storie di design fiction forniscono un nuovo modo per i designer, ingegneri e futuristi (tra gli altri) per pensare all'impatto della tecnologia da una prospettiva umana e collegarlo a possibili esigenze future. Con un misto di logica e immaginazione, design fiction può rivelare aspetti di come la tecnologia può essere adottata e utilizzata, avviare conversazioni sulle sue future ramificazioni.

Per esempio, il racconto "Crime-sourcing" esplora cosa potrebbe accadere se l'intelligenza artificiale utilizzasse informazioni di crowdsourcing e un database criminale per prevedere chi potrebbe commettere un omicidio. I ricercatori hanno scoperto che poiché il database era pieno di persone appartenenti a gruppi etnici minoritari che, per motivi sociali, avevano statisticamente maggiori probabilità di recidiva, il modello di "approvvigionamento di crimini" aveva maggiori probabilità di sospettare erroneamente le minoranze rispetto ai bianchi.

Non devi essere uno scrittore di talento o fare un film brillante per produrre fiction di design. Le attività di brainstorming che coinvolgono carte e storyboard sono state utilizzate per sviluppare la narrativa di design e aiutare a sviluppare il processo di narrazione. Rendere più comuni i laboratori che utilizzano questo tipo di strumenti consentirebbe a più ingegneri, imprenditori e decisori politici a utilizzare questo metodo di valutazione. E rendere il lavoro risultante pubblicamente disponibile aiuterebbe a esporre potenziali pregiudizi nelle tecnologie prima che influiscano sulla società.

Incoraggiare i designer a creare e condividere più storie in questo modo garantirebbe che la narrativa alla base della nuova tecnologia non presenti solo un'immagine positiva, né estremamente negativo o distopico. Anziché, le persone potranno apprezzare entrambi gli aspetti di ciò che accade intorno a noi.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.