Negli anni '90, una vita fa in termini di Internet, il sociologo spagnolo Manuel Castells ha pubblicato diversi libri che descrivono l'ascesa delle reti di informazione. Ha predetto che nell'era della rete, acquisterebbe più valore nel controllare i flussi di informazioni che nel controllo del contenuto stesso.

In altre parole, coloro che si sono posizionati come hub di rete, i router e gli switcher di informazioni, sarebbero diventati i guardiani del potere nell'era digitale.

Con l'ascesa dei colossi di Internet Google, Facebook, Amazon e altri, questa intuizione sembra ovvia ora. Ma negli ultimi due decenni, è emerso un modello di business fondamentalmente nuovo che nemmeno Castells aveva previsto, in cui attirare gli utenti sulle piattaforme digitali ha la precedenza su tutto il resto, compreso ciò che l'utente potrebbe dire, fare, o acquista su quella piattaforma.

La raccolta di informazioni è diventata l'imperativo dominante per i giganti della tecnologia, aiutata volontariamente dagli utenti affascinati prima dalle novità, poi dalla comodità e dall'espressione di sé offerte dall'essere online. Il risultato è stato un'esplosione di informazioni, che i colossi online possono raccogliere e utilizzare a scopo di lucro.

La vastità di questa impresa significa che gran parte di essa è invisibile all'utente quotidiano. Le grandi piattaforme sono ora così complesse che i loro meccanismi interni sono diventati opachi anche per i loro ingegneri e amministratori. Se il sistema ora è così grande che nemmeno chi ci lavora può vedere l'intera immagine, allora che speranza hanno i regolatori o il pubblico?

Certo, i governi stanno cercando di reagire. Le leggi GDPR in Europa, il rapporto ACCC Digital Platforms in Australia, e il DETOUR Act presentato al Congresso degli Stati Uniti ad aprile:sono tutti tentativi significativi di recuperare qualche agenzia. Allo stesso tempo, sta sorgendo nelle società di tutto il mondo che questi sforzi, mentre cruciale, non sono sufficienti.

I guardiani regnano sovrani

Se pensi a Internet come a una gigantesca macchina per condividere e copiare informazioni, allora diventa chiaro che i sistemi per ordinare tali informazioni sono di vitale importanza. Pensa non solo allo strumento di ricerca di Google, ma anche del modo in cui Google e Amazon dominano il cloud computing, i sistemi in gran parte invisibili che rendono utilizzabile Internet.

Col tempo, queste piattaforme hanno ottenuto un controllo sempre maggiore sul modo in cui le informazioni fluiscono attraverso di esse. Ma è un tipo di controllo sconosciuto, coinvolgendo sempre più autonomi, sistemi di autoapprendimento sempre più imperscrutabili per l'uomo.

Il controllo delle informazioni è fondamentale, ecco perché piattaforme come Google, Amazon e Facebook hanno raggiunto la supremazia. Ma ciò non significa che queste piattaforme debbano necessariamente competere o colludere tra loro. Internet è davvero enorme, un fatto che ha permesso a ciascuna piattaforma di diventare imperatore di una nicchia in crescita:Google per la ricerca, Facebook per i social, Amazon per la vendita al dettaglio, e così via. In ogni dominio, hanno svolto il ruolo di titolare, perturbatore, e innovatore, tutto allo stesso tempo.

Ora nessuno compete con loro. Che tu sia un individuo, attività commerciale, o governo, se hai bisogno di internet, hai bisogno dei loro servizi. I colossi dell'era della rete sono strutturali.

Gli algoritmi stanno guidando lo spettacolo

Affinché queste piattaforme rimangano al top, l'innovazione è un'esigenza costante. Man mano che il lavoro di smistamento diventa sempre più grande e complesso, stiamo assistendo allo sviluppo di algoritmi così avanzati che i loro creatori umani hanno perso la capacità di comprendere il loro funzionamento interiore. E se l'output soddisfa il compito da svolgere, il funzionamento interno del sistema è considerato di minore importanza.

Nel frattempo, la litania di effetti negativi è innegabile. Questo nuovo e coraggioso mondo guidato dalle macchine sta erodendo la nostra capacità di identificare, individuare, e fidarsi di informazioni autorevoli, a favore della velocità.

È vero che il paziente stava già male; le società sono state svuotate da tre decenni di fondamentalismo di mercato. Ma come ha recentemente avvertito lo storico della tecnologia americano George Dyson, il codice autoreplicante è ora disponibile nell'ecosistema informatico. Quello che era iniziato come un modo per gli umani di persuadere gli altri a comportamenti desiderati ora minaccia di trasformarsi in niente di meno che nella manipolazione degli umani da parte delle macchine.

L'era digitale ha stimolato un'enorme crescita in discipline di ricerca come la psicologia sociale, economie comportamentali, e neuroscienze. Hanno prodotto intuizioni sbalorditive sulla cognizione e sul comportamento umani, con potenziali usi tutt'altro che benigni.

Anche se questo sforzo fosse stato fondato con le migliori intenzioni, gli incidenti abbondano quando esseri umani fallibili intervengono in sistemi complessi con basi etiche e legali nascenti. Gettare intenzioni maligne nel mix:interferenze elettorali, guerra dell'informazione, estremismo online e le sfide non fanno che aumentare.

Se stai ancora pensando alle tecnologie digitali come strumenti, il che implica che tu, l'utente, hai il pieno controllo:devi ripensarci. La verità è che nessuno sa veramente dove ci porterà il codice digitale autoreplicante. tu sei il feedback, non l'istruzione.

I regolatori non sanno da dove cominciare

Sta crescendo un consenso sull'urgente necessità di un intervento normativo per evitare ulteriori disagi sociali, e per portare la supervisione democratica e legale nelle pratiche dei più grandi monopoli del mondo. Ma, se Dyson ha ragione, il genio è già uscito dalla bottiglia.

Incantato dalla novità e dalla comodità della vita online, abbiamo inconsapevolmente permesso alla Silicon Valley di tirare fuori un "colpo di stato dall'alto". È passato molto tempo che l'ideologia che ha informato questo colpo di stato, e ora governa tanta attività umana quotidiana, è sottoposto a scrutinio.

Le sfide dell'era dell'informazione digitale vanno oltre i monopoli e la privacy. Questo regime di tecnologie è stato costruito in base alla progettazione senza preoccuparsi dello sfruttamento. Tali vulnerabilità sono estese e continueranno a essere sfruttate, e ora che questa tecnologia è così intimamente parte della vita quotidiana, la sua riparazione dovrebbe essere perseguita senza timore o favore.

Eppure l'intervento legislativo e regolamentare può essere efficace solo se l'industria, i governi e la società civile si uniscono per costruire, per disegno, un'era dell'informazione digitale degna di questo nome, che non ci lascia tutti aperti allo sfruttamento.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.