A metà luglio 2019, Oakland, California, è diventata la terza città degli Stati Uniti a vietare ai dipartimenti municipali di utilizzare la tecnologia di riconoscimento facciale. Nel frattempo, Il Congresso ha iniziato le udienze su se e come regolamentarlo a livello nazionale. In un sorprendente momento di consenso bipartisan, l'unica cosa su cui i legislatori hanno combattuto era quanto dovrebbero essere estese le restrizioni.

Questa risposta a un potente, la tecnologia potenzialmente invasiva è un segno di come il pubblico e i responsabili politici potrebbero rispondere ai futuri sviluppi tecnologici, in particolare quelli che utilizzano l'intelligenza artificiale. Non solo il riconoscimento facciale consente a Facebook di automatizzare la codifica delle persone nelle foto, ma potenzia anche la capacità delle forze dell'ordine di rintracciare i sospettati di reato. Le domande etiche abbondano. Come ha affermato il Center on Privacy and Technology di Georgetown, riconoscimento facciale potrebbe portare a "un mondo in cui, una volta messo piede fuori, il governo può seguire ogni tua mossa." Ed è solo l'inizio.

All'orizzonte c'è una marea di innovazioni digitali che potrebbero essere almeno altrettanto potenti, ampio e controverso:video "deepfake" che mostrano persone che fanno cose che non hanno mai fatto, l'"internet delle cose" che monitora costantemente le abitazioni private, realtà virtuale manipolativa, auto a guida autonoma che travolgono le comunità e altro ancora.

Sono un ricercatore che studia gli impatti sociali della tecnologia digitale, ed è mio compito tenermi informato sulle prossime tecnologie e proiettare i risultati futuri. Ma, con sempre più innovazione, c'è sempre meno tempo per riflettere sulle conseguenze. Molti dei miei colleghi la pensano allo stesso modo.

Per domare questa marea impetuosa, la società ha bisogno di dighe e dighe. Proprio come ha iniziato ad accadere con il riconoscimento facciale, è tempo di prendere in considerazione divieti legali e moratorie su altre tecnologie emergenti. Questi non devono essere permanenti o assoluti, ma l'innovazione non è un bene assoluto. Più una tecnologia è potente, maggiore è la cura che richiede per operare in sicurezza.

Piccola urgenza

Non c'è un bisogno urgente per la maggior parte delle nuove tecnologie digitali. Alcune novità, Certo, sono quasi del tutto positivi:anestesia, luce elettrica, Radio, vaccini. Ma la società di oggi celebra spesso l'innovazione fine a se stessa, anche quando i benefici sono discutibili, e sempre di più, i benefici sono infatti discutibili.

Vale davvero la pena un affollato, cielo ronzante pieno di droni per la consegna in un'ora di beni di consumo, invece di consegna in 24 ore, o anche due giorni? La realtà virtuale è così grande che i bambini dovrebbero, effettivamente, crescere con gli occhi incollati agli schermi video? Quando i governi possono condurre omicidi difficili da rintracciare con droni, qualcuno è veramente al sicuro? La scansione degli elenchi di possibili tecnologie future può incitare più paura che speranza.

Questi tipi di innovazioni ripetutamente non riescono a fornire miglioramenti complessivi in ​​modi veramente significativi, come quanto profondamente le persone si amano, quanto compassionevolmente le persone si preoccupano, quanto bene la società sostiene i meno privilegiati, o quanto saggiamente gli umani amministrano il pianeta. Se qualcosa, la tecnologia sembra amplificare le debolezze morali degli esseri umani coccolando le persone con le comodità dei consumatori e le camere di risonanza. L'ultimo mezzo secolo ha visto un'età d'oro dell'innovazione digitale, eppure i tassi di povertà sono rimasti stagnanti, la disuguaglianza è aumentata vertiginosamente e la sostenibilità sembra più irraggiungibile.

La maggior parte dei progressi tecnologici in corso oggi non affronterà questi problemi; affronteranno piccoli fastidi che semplicemente non c'è fretta di alleviare.

Danno quasi certo, ma poco chiaro

Le nuove tecnologie hanno sempre conseguenze indesiderate, spesso negative, e gli innovatori sottovalutano sempre quanto saranno cattive. I pesticidi hanno causato flagelli per la salute pubblica. Le bottiglie di plastica hanno inquinato gli oceani. Gli smartphone stanno contribuendo a una crisi di salute mentale adolescenziale.

Considera cosa potrebbe fare un sistema di intelligenza artificiale se diretto a fare qualcosa di ovvio, come massimizzare i profitti, utilizzando tutte le informazioni e gli strumenti a sua disposizione. Potrebbe contenere informazioni personali imbarazzanti a scopo di riscatto per costringere gli utenti ad acquistare beni, o estorcere azioni criminali a persone con segreti più oscuri.

Nulla ha ancora impedito agli algoritmi dei negozi online di mentire per aumentare le vendite, né ha frenato l'effettiva capacità di Facebook di manipolare gli umori degli utenti. Le aziende tecnologiche trattano abitualmente i loro clienti come cavie sperimentali, e stanno già applicando sistemi di intelligenza artificiale per una serie di scopi.

Se questi sono solo gli effetti noti delle aziende tecnologiche; sforzi e innovazioni, immagina quali conseguenze indesiderate potrebbero nascondersi. La premessa del popolare gioco "Universal Paperclips" è che un'intelligenza artificiale focalizzata sull'ottimizzazione di un'azienda finisce per distruggere l'universo conosciuto. La fantascienza sta rapidamente diventando una realtà scientifica.

Difficile tornare indietro

Una volta scatenato, le tecnologie digitali sono geni particolarmente difficili da rimettere in bottiglia. Nel rispetto, differiscono da altre tecnologie avanzate. Subito dopo la seconda guerra mondiale, gli attivisti hanno iniziato a chiedere il divieto delle armi nucleari, culminato nel Trattato di non proliferazione nel 1970. Il trattato è stato efficace nel mantenere una tecnologia vecchia di 80 anni limitata a soli otto o nove paesi:è un'impresa impressionante, soprattutto nella storia frastagliata della politica globale.

Armi nucleari, però, richiedono risorse significative per progettare, costruire, testare e distribuire. Al contrario, le tecnologie digitali sono facili da condividere, rendendoli ancora più difficili da controllare. Strumenti di hacking avanzati sono stati rubati e condivisi online:le tecniche sviluppate dalla National Security Agency degli Stati Uniti sono state utilizzate negli attacchi informatici globali dalla Cina, Russia e Corea del Nord. Il loro software è ora disponibile per chiunque disponga di una connessione Internet.

Uno squilibrio di potere

Le aziende tecnologiche che spingono i loro progressi hanno soldi, influenza e tempo dalla loro parte. I milioni di dollari di lobby che spendono sono spiccioli se paragonati ai loro profitti multimiliardari, e possono mantenere il finanziamento a tempo indeterminato, aspettando i cicli di notizie e l'energia degli attivisti.

Secondo me, l'incertezza su come le nuove tecnologie influenzeranno la società in generale significa che le forze scettiche meritano maggiore sostegno. Divieti e moratorie significherebbero che ricchi, entità potenti dovrebbero chiedere il permesso legale e sociale prima di scatenare i loro potenziali mostri sul mercato. Non sembra chiedere troppo.

Ci sono molte ragioni per continuare a costruire nuove tecnologie:rimanere competitivi a livello globale, per far progredire la conoscenza umana e per prepararsi a potenziali crisi future. La tecnologia ha i suoi vantaggi. Ma rallentare il ritmo del suo progresso darebbe alla società più tempo per pensare alle conseguenze e discutere quali aspetti delle nuove tecnologie sono desiderabili, e che dovrebbero essere vietati.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.