In questo 10 aprile 2018, foto d'archivio, Il CEO di Facebook Mark Zuckerberg arriva a testimoniare prima di un'audizione congiunta dei comitati del commercio e della magistratura a Capitol Hill a Washington, sull'uso dei dati di Facebook per prendere di mira gli elettori americani nelle elezioni del 2016. Potremmo ricordare il 2018 come l'anno in cui il potenziale distopico della tecnologia è diventato chiaro, dal ruolo di Facebook che consente la raccolta dei nostri dati personali per l'interferenza elettorale a una serie apparentemente infinita di rivelazioni sul lato oscuro dell'etica del tutto connesso della Silicon Valley. (Foto AP/Pablo Martinez Monsivais, File)
Potremmo ricordare il 2018 come l'anno in cui il potenziale distopico della tecnologia è diventato chiaro, dal ruolo di Facebook che consente la raccolta dei nostri dati personali per l'interferenza elettorale a una serie apparentemente infinita di rivelazioni sul lato oscuro dell'etica del tutto connesso della Silicon Valley.
L'elenco è lungo:strumenti high-tech per reprimere l'immigrazione. Paura della dipendenza da smartphone. Algoritmi di YouTube che spingono i giovani all'estremismo. Un esperimento su bambini modificati geneticamente.
Campanelli e sale da concerto che possono individuare i singoli volti e allertare la polizia. Riutilizzo di siti web di genealogia per dare la caccia a sospetti criminali basati sul DNA di un parente. Sistemi automatizzati che tengono sotto controllo i movimenti e le abitudini dei lavoratori. Le auto elettriche a Shanghai trasmettono ogni loro movimento al governo.
È stato sufficiente per esaurire anche i più fantasiosi visionari di fantascienza.
"Non sembra proprio che stiamo vivendo nel futuro ora, come che stiamo vivendo in un retro-futuro, "Il romanziere William Gibson ha scritto questo mese su Twitter. "Un oscuro, goofy anni '90 retrò-futuro."
Più ci aspetta nel 2019, mentre gli sforzi di sorveglianza e raccolta dati aumentano e i sistemi di intelligenza artificiale iniziano a sembrare più umani, leggere le espressioni facciali e generare immagini video false così realistiche che sarà più difficile rilevare distorsioni dannose della verità.
Ma ci sono anche contromisure in corso nel Congresso e nel governo statale, e anche tra i dipendenti delle aziende tecnologiche che sono più attivi nell'assicurare che il loro lavoro abbia un fine positivo.
In questo 18 aprile, 2018, foto d'archivio, un'immagine del sito web di Cambridge Analytica viene visualizzata sullo schermo di un computer a New York. Tra i casi più preoccupanti di ciò che ha reso il 2018 così inquietante c'è stata la rivelazione a marzo che la società di estrazione di dati politici Cambridge Analytica ha travolto le informazioni personali di milioni di utenti di Facebook allo scopo di manipolare le elezioni nazionali. (Foto AP/Mark Lennihan, File)
"Qualcosa che è stato incoraggiante quest'anno è stato che ad accompagnare questa sfilata di scandali c'era una crescente consapevolezza pubblica che c'è una crisi di responsabilità nella tecnologia, " disse Meredith Whittaker, un co-fondatore dell'AI Now Institute della New York University per lo studio delle implicazioni sociali dell'intelligenza artificiale.
Il gruppo ha compilato un lungo elenco di ciò che ha reso il 2018 così inquietante, anche se molti sono esempi del pubblico che diventa semplicemente di nuovo consapevole dei problemi che si sono accumulati per anni. Tra i casi più preoccupanti c'è stata la rivelazione di marzo secondo cui la società di estrazione di dati politici Cambridge Analytica ha sottratto informazioni personali di milioni di utenti di Facebook allo scopo di manipolare le elezioni nazionali.
"Ha davvero aiutato a svegliare le persone sul fatto che questi sistemi stanno effettivamente toccando il cuore delle nostre vite e plasmando le nostre istituzioni sociali, "Ha detto Whittaker.
Questo era in cima ad altri disastri di Facebook, compreso il suo ruolo nel fomentare la violenza in Myanmar, importanti violazioni dei dati e preoccupazioni in corso sull'hosting di account falsi per la propaganda russa.
Non era solo Facebook. Google ha suscitato preoccupazione per la sua continua sorveglianza degli utenti dopo che l'Associated Press ha riferito che stava monitorando i movimenti delle persone, che gli piaccia o no.
Ha anche affrontato il dissenso interno sulla sua collaborazione con le forze armate statunitensi per creare droni con "visione artificiale" per aiutare a trovare obiettivi sul campo di battaglia e una proposta segreta per lanciare un motore di ricerca censurato in Cina. E ha svelato un assistente vocale straordinariamente simile a quello umano che suona così reale che le persone dall'altra parte del telefono non sapevano che stavano parlando a un computer.
Queste e altre preoccupazioni sono emerse a dicembre quando i legislatori hanno messo sotto torchio il CEO di Google Sundar Pichai in un'audizione al Congresso, un sequel di simili resoconti pubblici quest'anno con il CEO di Facebook Mark Zuckerberg e altri dirigenti tecnologici.
Questo 17 gennaio 2017, la foto del file mostra un logo di Facebook visualizzato in una start-up che si riunisce alla stazione F di Parigi, a Parigi. Potremmo ricordare il 2018 come l'anno in cui il potenziale distopico della tecnologia è diventato chiaro, dal ruolo di Facebook che consente la raccolta dei nostri dati personali per l'interferenza elettorale a una serie apparentemente infinita di rivelazioni sul lato oscuro dell'etica del tutto connesso della Silicon Valley. (Foto AP/Thibault Camus, File)
"Era necessario convocare questa udienza a causa del crescente divario di sfiducia tra le aziende tecnologiche e il popolo americano, "Ha detto il leader della maggioranza della Camera repubblicana Kevin McCarthy.
Il pioniere di Internet Vint Cerf ha affermato che lui e altri ingegneri non avrebbero mai immaginato che la loro visione di una rete mondiale di computer connessi si sarebbe trasformata 45 anni dopo in un sistema di sorveglianza che raccoglie informazioni personali o in una macchina di propaganda che potrebbe influenzare le elezioni.
"Stavamo solo cercando di farlo funzionare, " ha ricordato Cerf, che ora è il principale evangelista di Internet di Google. "Ma ora che è nelle mani del grande pubblico, ci sono persone che... vogliono che funzioni in un modo che ovviamente fa male, o si avvantaggiano, o sconvolge il sistema politico. Quindi dovremo fare i conti con questo”.
Contrariamente alle paure futuristiche di robot "super-intelligenti" che prendono il controllo, i veri pericoli della nostra era tecnologica si sono insinuati in modo più prosaico, spesso sotto forma di innovazioni tecnologiche che abbiamo accolto favorevolmente per rendere la vita più comoda.
Parte della preoccupazione degli esperti per il salto nel connettere ogni dispositivo domestico a Internet e lasciare che i computer facciano il nostro lavoro è che la tecnologia è ancora difettosa e influenzata da errori e pregiudizi umani. Uber e Tesla sono stati indagati per incidenti mortali a guida autonoma a marzo, IBM è stata esaminata per aver collaborato con la polizia di New York City per costruire un sistema di riconoscimento facciale in grado di rilevare l'etnia, e Amazon ha preso il sopravvento per fornire il proprio servizio di riconoscimento facciale difettoso alle forze dell'ordine.
In alcuni casi, L'opposizione alla fretta dell'industria tecnologica di applicare le sue ultime innovazioni a usi commerciali discutibili è arrivata dai suoi stessi dipendenti. I lavoratori di Google hanno aiutato ad affondare il contratto dei droni del Pentagono dell'azienda, e lavoratori di Amazon, Microsoft e Salesforce hanno cercato di annullare i contratti delle loro società per fornire servizi tecnologici alle autorità per l'immigrazione.
"È diventato ovvio per molte persone che la retorica del fare del bene e del beneficio della società e 'Non essere malvagio' non era ciò a cui queste aziende stavano effettivamente vivendo, " ha detto Whittaker, che è anche un ricercatore presso Google che ha fondato il suo gruppo Open Research.
In questo 8 agosto, 2018, foto d'archivio, un telefono cellulare visualizza i viaggi di un utente utilizzando Google Maps a New York. Google ha suscitato preoccupazione per la sua continua sorveglianza degli utenti dopo che l'Associated Press ha riferito che stava monitorando i movimenti delle persone, che gli piaccia o no. (Foto AP/Seth Wenig, File)
Allo stesso tempo, anche alcuni titani della tecnologia hanno lanciato allarmi. Ingegneri e designer di spicco hanno sempre più parlato di proteggere i bambini dai prodotti tecnologici che creano assuefazione che hanno contribuito a creare.
E poi c'è il presidente di Microsoft Brad Smith, che a dicembre ha chiesto di regolamentare la tecnologia di riconoscimento facciale in modo che "l'anno 2024 non assomigli a una pagina" di "1984" di George Orwell.
In un post sul blog e in un discorso di Washington, Smith dipinse una visione desolante dei sistemi di sorveglianza governativi onniveggenti che costringevano i dissidenti a nascondersi in stanze buie "per entrare in codice con segnali manuali sulle braccia l'uno dell'altro".
Per evitare un simile scenario orwelliano, Smith sostiene la regolamentazione della tecnologia in modo che chiunque stia per sottoporsi a sorveglianza sia adeguatamente informato. Ma i sostenitori della privacy sostengono che non è abbastanza.
Tali dibattiti stanno già avvenendo in stati come l'Illinois, dove una rigorosa legge sul riconoscimento facciale ha dovuto affrontare le sfide del settore tecnologico, e California, che nel 2018 ha approvato la legge più ampia della nazione per dare ai consumatori un maggiore controllo sui propri dati personali. Entra in vigore nel 2020.
La questione potrebbe trovare nuova attenzione al Congresso l'anno prossimo, poiché sempre più repubblicani si avvicinano all'idea di norme di base sulla privacy online e la maggioranza in entrata della Casa Democratica adotta un approccio più scettico nei confronti delle aziende tecnologiche che molti politici liberali un tempo consideravano alleati e donatori prolifici della campagna .
L'approccio "lasciali stare" della prima era di Internet non funzionerà più, ha detto il rappresentante David Cicilline, un democratico del Rhode Island pronto a prendere il timone della sottocommissione antitrust della Camera.
In questo 11 dicembre 2018, foto d'archivio, Il CEO di Google Sundar Pichai appare davanti al comitato giudiziario della Camera per essere interrogato sulla sicurezza della privacy e sulla raccolta dei dati del gigante di Internet, al Campidoglio di Washington. Google ha suscitato preoccupazione per la sua continua sorveglianza degli utenti e altre preoccupazioni sono emerse questo mese quando i legislatori hanno messo alla griglia Pichai. (AP Photo/J. Scott Applewhite, File)
"Stiamo vedendo ora alcune delle conseguenze degli abusi che possono verificarsi in queste piattaforme se rimangono non regolamentate senza una supervisione o un'applicazione significative, " Disse Cicillina.
Troppa regolamentazione può portare i suoi effetti collaterali indesiderati, Cerf ha avvertito.
"In un certo senso è divertente perché questo ambiente online avrebbe dovuto rimuovere l'attrito dalla nostra capacità di effettuare transazioni, " disse. "Se nel nostro desiderio, se non zelo, per tutelare la privacy delle persone gettiamo sabbia negli ingranaggi di tutto, potremmo ritrovarci con un sistema molto sicuro che non funziona molto bene".
© 2018 The Associated Press. Tutti i diritti riservati.
