Il gigante della tecnologia statunitense Microsoft ha collaborato con un'università militare cinese per sviluppare sistemi di intelligenza artificiale che potrebbero potenzialmente migliorare le capacità di sorveglianza e censura del governo. Due senatori degli Stati Uniti hanno condannato pubblicamente la partnership, ma ciò che la National Defense Technology University of China vuole da Microsoft non è l'unica preoccupazione.

Come mostra la mia ricerca, l'avvento della repressione digitale sta incidendo profondamente sul rapporto tra cittadino e Stato. Le nuove tecnologie stanno dotando i governi di capacità senza precedenti per monitorare, tracciare e sorvegliare le singole persone. Anche i governi delle democrazie con forti tradizioni di stato di diritto sono tentati di abusare di queste nuove capacità.

Negli stati con istituzioni irresponsabili e frequenti violazioni dei diritti umani, I sistemi di intelligenza artificiale causeranno molto probabilmente danni maggiori. La Cina è un esempio lampante. La sua leadership ha abbracciato con entusiasmo le tecnologie AI, e ha istituito lo stato di sorveglianza più sofisticato del mondo nella provincia dello Xinjiang, monitorare i movimenti quotidiani dei cittadini e l'uso dello smartphone.

Il suo sfruttamento di queste tecnologie rappresenta un modello agghiacciante per gli altri autocrati e rappresenta una minaccia diretta per le società democratiche aperte. Sebbene non ci siano prove che altri governi abbiano replicato questo livello di sorveglianza dell'IA, Le aziende cinesi stanno esportando attivamente le stesse tecnologie sottostanti in tutto il mondo.

Aumentare la dipendenza dagli strumenti di intelligenza artificiale negli Stati Uniti

I sistemi di intelligenza artificiale sono ovunque nel mondo moderno, aiutando a gestire gli smartphone, motori di ricerca su Internet, assistenti vocali digitali e code di film Netflix. Molte persone non si rendono conto della velocità con cui l'IA si sta espandendo, grazie a quantità sempre maggiori di dati da analizzare, migliorare algoritmi e chip per computer avanzati.

Ogni volta che diventano disponibili più informazioni e l'analisi diventa più semplice, i governi sono interessati – e non solo quelli autoritari. Negli Stati Uniti., ad esempio, gli anni '70 videro rivelazioni che le agenzie governative - come l'FBI, CIA e NSA - avevano istituito vaste reti di sorveglianza interna per monitorare e molestare i manifestanti per i diritti civili, attivisti politici e gruppi di nativi americani. Questi problemi non sono scomparsi:la tecnologia digitale oggi ha approfondito la capacità di un numero ancora maggiore di agenzie di condurre una sorveglianza ancora più intrusiva.

Per esempio, La polizia degli Stati Uniti ha abbracciato con entusiasmo le tecnologie AI. Hanno iniziato a utilizzare un software che ha lo scopo di prevedere dove accadranno i crimini per decidere dove inviare gli agenti di pattuglia. Usano anche il riconoscimento facciale e l'analisi del DNA nelle indagini penali. Ma le analisi di questi sistemi mostrano che i dati su cui questi sistemi vengono addestrati sono spesso distorti, portando a risultati ingiusti, come determinare falsamente che gli afroamericani hanno maggiori probabilità di commettere crimini rispetto ad altri gruppi.

Sorveglianza AI in tutto il mondo

Nei paesi autoritari, I sistemi di intelligenza artificiale possono favorire direttamente il controllo e la sorveglianza domestici, aiutare le forze di sicurezza interne a elaborare enormi quantità di informazioni, inclusi post sui social media, messaggi di testo, e-mail e telefonate – in modo più rapido ed efficiente. La polizia può identificare tendenze sociali e persone specifiche che potrebbero minacciare il regime sulla base delle informazioni scoperte da questi sistemi.

Ad esempio, il governo cinese ha utilizzato l'intelligenza artificiale in repressioni su vasta scala nelle regioni che ospitano minoranze etniche all'interno della Cina. I sistemi di sorveglianza nello Xinjiang e nel Tibet sono stati descritti come "orwelliani". Questi sforzi hanno incluso campioni di DNA obbligatori, Monitoraggio della rete Wi-Fi e telecamere di riconoscimento facciale diffuse, il tutto connesso a piattaforme integrate di analisi dei dati. Con l'ausilio di questi sistemi, Le autorità cinesi hanno, secondo il Dipartimento di Stato degli Stati Uniti, "detenute arbitrariamente" tra 1 e 2 milioni di persone.

La mia ricerca esamina 90 paesi in tutto il mondo con tipi di governo che vanno da democrazie autoritarie chiuse a democrazie imperfette, compresa la Thailandia, Tacchino, Bangladesh e Kenia. Ho scoperto che le aziende cinesi stanno esportando tecnologia di sorveglianza AI in almeno 54 di questi paesi. frequentemente, questa tecnologia è confezionata come parte dell'iniziativa di punta della Cina Belt and Road, che sta finanziando una vasta rete di strade, linee ferroviarie, gasdotti energetici e reti di telecomunicazioni che servono il 60% della popolazione mondiale ed economie che generano il 40% del PIL mondiale.

Ad esempio, Aziende cinesi come Huawei e ZTE stanno costruendo "città intelligenti" in Pakistan, Filippine e Kenya, dotato di un'ampia tecnologia di sorveglianza integrata. Per esempio, Huawei ha dotato Bonifacio Global City nelle Filippine di telecamere connesse a Internet ad alta definizione che forniscono "sorveglianza di sicurezza intelligente 24 ore su 24, 7 giorni su 7 con analisi dei dati per rilevare il crimine e aiutare a gestire il traffico".

Hikvision, Yitu e SenseTime stanno fornendo telecamere di riconoscimento facciale all'avanguardia da utilizzare in luoghi come Singapore, che ha annunciato l'istituzione di un programma di sorveglianza con 110, 000 telecamere montate sui lampioni della città-stato. Lo Zimbabwe sta creando un database nazionale di immagini che può essere utilizzato per il riconoscimento facciale.

Però, vendere attrezzature avanzate a scopo di lucro è diverso dalla condivisione di tecnologia con un preciso scopo geopolitico. Queste nuove capacità possono gettare le basi per la sorveglianza globale:poiché i governi diventano sempre più dipendenti dalla tecnologia cinese per gestire le loro popolazioni e mantenere il potere, dovranno affrontare una maggiore pressione per allinearsi con l'agenda della Cina. Ma per ora sembra che il motivo principale della Cina sia dominare il mercato delle nuove tecnologie e guadagnare molti soldi nel processo.

IA e disinformazione

Oltre a fornire capacità di sorveglianza sia ampie che dettagliate, L'intelligenza artificiale può aiutare i governi repressivi a manipolare le informazioni disponibili e a diffondere disinformazione. Queste campagne possono essere automatizzate o assistite dall'automazione, e distribuisci messaggi iper-personalizzati diretti a – o contro – persone o gruppi specifici.

L'intelligenza artificiale è anche alla base della tecnologia comunemente chiamata "deepfake, " in cui gli algoritmi creano falsi video e audio realistici. Confondere le acque tra verità e finzione può diventare utile in un'elezione serrata, quando un candidato potrebbe creare video falsi che mostrano un avversario che fa e dice cose che in realtà non sono mai accadute.

Secondo me, i responsabili politici nelle democrazie dovrebbero riflettere attentamente sui rischi dei sistemi di intelligenza artificiale per le proprie società e per le persone che vivono sotto regimi autoritari in tutto il mondo. Una domanda cruciale è quanti paesi adotteranno il modello cinese di sorveglianza digitale. Ma non sono solo i paesi autoritari a sentire l'attrazione. E non sono solo le aziende cinesi a diffondere la tecnologia:molte aziende statunitensi, Microsoft inclusa, ma IBM, Anche Cisco e Thermo Fisher, hanno fornito capacità sofisticate a cattivi governi. L'uso improprio dell'intelligenza artificiale non è limitato agli stati autocratici.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.