Di recente ho partecipato a un grande incontro di facoltà per discutere la valutazione degli studenti laureati, reclutamento e mantenimento.

"Lascia che i dati guidino i tuoi obiettivi, " ha ripetuto uno dei relatori, come un mantra – con genuino entusiasmo e convinzione – e non ho potuto fare a meno di sussultare.

Lo slogan mi è sembrato sintomatico di quello che la psicologa sociale Shoshana Zuboff ha definito un "coup des gens".

Se un colpo di Stato denota la sostituzione illegale di un sistema politico con un altro, a coup des gens - "gens" che significa "popolo" in francese - è caratterizzato dalla sostituzione forzata degli esseri umani con sistemi informativi astratti.

Nel mio recente libro, "Il Sé terminale, " Mostro come siamo sempre più costretti a interagire con la tecnologia informatica in tutti gli aspetti della nostra vita quotidiana. Tra molti altri effetti, questa interazione forzata ci costringe a sincronizzare le nostre funzioni cognitive con la logica del computer e ad alimentarlo con infiniti flussi di dati, rendendoci maturi per una sorveglianza e uno sfruttamento costanti.

Gestire i flussi del 'nuovo petrolio'

I dati vengono ora utilizzati dalle aziende per aiutarle a valutare, classifica, selezionare o respingere potenziali clienti. Può essere utilizzato per misurare il rischio medico, merito di credito, salute psicologica, prestazioni di lavoro, abitudini di spesa, preferenze alimentari, stati d'animo, preferenze di datazione e opinioni politiche.

Come ha affermato il Commissario europeo per i consumatori Meglena Kuneva, "I dati personali sono il nuovo petrolio di Internet e la nuova valuta del mondo digitale".

L'alto valore attribuito ai dati ha inaugurato quello che il sociologo francese Paul Virilio chiama un "fondamentalismo dell'informazione" - un'ideologia che esalta l'informazione digitale come il bene supremo e il potere supremo a cui tutti devono cedere la loro volontà, tempo e buon senso.

Per funzionare in modo efficiente, la maggior parte delle istituzioni deve gestire in modo intelligente questi flussi di dati in continua espansione. Però, la capacità tecnologica di gestire grandi quantità di dati non porta necessariamente a un'analisi intelligente.

Anzi, osserva lo studioso di studi sui media Mark Andrejevic, "Siamo diventati analisti dell'intelligence che selezionano più dati di quanti siamo in grado di assorbire". Gli individui semplicemente non hanno le capacità intellettuali per vagliare i flussi di informazioni in costante crescita di cui hanno bisogno per elaborare ed estrarre per prendere decisioni intelligenti.

Una parte crescente della nostra vita quotidiana richiede non solo l'elaborazione delle "bombe informative" - ​​le e-mail, messaggi, ultime notizie e annunci - che esplodono casualmente nella nostra vita quotidiana. Richiede inoltre che inseriamo costantemente informazioni nel sistema.

Si pensi al numero crescente di knowledge worker e professionisti in diversi settori dell'economia che sono diventati essenzialmente assistenti di inserimento dati. Il loro lavoro consiste principalmente nel fornire sempre più informazioni a un organismo digitale sempre più affamato, per ragioni che sembrano ovvie ma raramente vengono messe in discussione.

Lo vediamo nei dati a livello granulare che molti insegnanti delle scuole pubbliche dovrebbero ora inserire su ogni aspetto dell'apprendimento dei loro studenti. Lo vediamo nell'infinito, e spesso imperfetto, sondaggi che i professionisti di ogni categoria devono completare sulle loro attività quotidiane, progresso e "soddisfazione".

Questo noioso lavoro di immissione dei dati dequalifica i lavoratori della conoscenza, li aliena e tradisce una tragica cattiva gestione del capitale umano.

Il cavallo di Troia digitale

Se l'obbligo di inserire le informazioni viene imposto apertamente sul lavoro, è segretamente indotto a casa. Ogni volta che navighiamo tranquillamente in Internet, consultare siti web, cliccando sui link o condividendo le nostre foto, politica e preferenze, stiamo anche, controvoglia e inconsapevolmente, producendo enormi volumi di informazioni. Altri invisibili poi raccolgono avidamente, negozio, organizzare e vendere questi dati ai fini del controllo sociale, persuasione e modificazione del comportamento.

"Su Google, tu sei quello che clicchi. Su Facebook, tu sei ciò che condividi, ", scrive il CEO di Upworthy Eli Pariser.

Questa estrazione di informazioni digitali può influenzare le vite umane reali. Nella sua ampia analisi della sorveglianza aziendale nella vita quotidiana, Lo studioso di cultura digitale Wolfe Christl avverte che le società di data mining utilizzano i dati personali per prendere automaticamente decisioni sulle persone che potrebbero peggiorare le disuguaglianze esistenti.

Per esempio, Christl mostra come le aziende di analisi sanitaria come GNS Healthcare raccolgono enormi quantità di dati dalla genomica, cartelle cliniche, dati di laboratorio e dispositivi sanitari mobili per fornire informazioni sugli utenti alle compagnie di assicurazione sanitaria. Queste aziende possono quindi manipolare in modo significativo i costi dell'assicurazione sanitaria per diverse categorie di richiedenti.

Allo stesso modo, sottolinea che i dati raccolti sulla stabilità emotiva di qualcuno, la felicità e la probabilità di avere un bambino possono influenzare se vengono assunti, mantenuto o promosso.

Con gli algoritmi che sostituiscono sempre più gli esseri umani in questo tipo di processo decisionale, i destini dei cittadini sono sempre più determinati dai sistemi informativi. Come spiega Zuboff, è una tendenza che riduce le persone a fonti di estrazione di dati e obiettivi di sfruttamento.

L'aspetto più sconcertante di questa situazione non sono le capacità di sorveglianza in sé, per quanto scoraggianti. È la nostra tacita sottomissione a un regime di sorveglianza costante e remota che – tranne che nei film di spionaggio o nei deliri paranoici – sarebbe stato considerato assurdo qualche decennio fa.

Più preoccupante, in un'intervista del 2017 su "60 Minutes, L'ex marketing manager di Google Tristan Harris ha spiegato i motivi insidiosi della raccolta dei dati:le aziende tecnologiche non stanno solo cercando di trovare informazioni sugli utenti per venderle ad aziende che vogliono vendere prodotti. Sono in competizione per creare il miglior "brain-hacking" " programmi che raccolgono le informazioni più accurate su ciò che fa eccitare emotivamente gli utenti e su ciò che cattura la loro attenzione.

L'obiettivo è manipolare le reazioni emotive degli utenti, a distanza ea livello neurale. Nelle mani sbagliate, questo tipo di manipolazione può essere usato non solo per vendere cose alla gente, ma anche per influenzare le loro decisioni politiche. Secondo il politologo Collin Bennett, questo progetto è a buon punto.

Accesso negato

Oltre al danno la beffa, è quasi impossibile per gli utenti rilevare quali informazioni su di loro vengono raccolte, chi lo colleziona e cosa ne fa.

Ogni passaggio del dito sullo schermo di uno smartphone e ogni messaggio digitato viene registrato come "segnali" che aiutano a conoscere la personalità di un utente, interessi, umore e salute finanziaria. I punteggi di credito degli amici di Facebook di un utente possono anche essere utilizzati per calcolare la propria solvibilità. A causa del completo anonimato delle agenzie che raccolgono e utilizzano questi dati, non è realistico sperare di poter correggere – e scongiurare le conseguenze – gli errori che inevitabilmente emergono nel "profilo" di qualcuno.

È doloroso sentirsi monitorati unilateralmente, impotente e disinformato. Secondo uno studio, coloro che si rendono conto che la loro privacy è stata esposta senza il loro consenso sperimentano "emozioni, risposte psicoanalitiche e corporee che a volte sono profondamente ridicole".

Ma questa sorveglianza è anche una forma di sfruttamento.

Dopotutto, siamo noi a produrre queste informazioni. Siamo quelli che sacrificano sempre più il nostro tempo per leggere le linee guida del sito web, guarda video didattici, compilare moduli digitali, inoltrare informazioni, sostenere i social network digitali e generare preziose informazioni su noi stessi affinché gli altri possano utilizzarle.

Chi genera questo valore non dovrebbe avere più controllo sulle condizioni della sua produzione, saldi, diffusione e utilizzo? E se questo diritto non può essere concesso a causa di inestricabili difficoltà tecnologiche, lo stesso livello di trasparenza non dovrebbe essere imposto a chi raccoglie, lo vendi e lo usi?

Il regime dell'algoritmo

La crescente dipendenza dalle informazioni, la normalizzazione della sorveglianza e il crescente utilizzo dei sistemi informativi per prendere decisioni importanti sulla vita dei cittadini equivale a un "coup des gens".

Però, la democrazia richiede privacy, e la libertà implica protezione dall'invasione, che sia fisico o digitale. Nel suo famoso trattato sul quarto emendamento, Il giudice della Corte Suprema Brandeis ha sostenuto che "il diritto a essere lasciati in pace" è "il diritto più apprezzato dagli uomini civili" ed è "fondamentale per una società libera e civile".

I cittadini adulti di una società democratica dovrebbero avere il diritto di decidere quale tipo di informazioni vengono raccolte su di loro, chi può utilizzare tali informazioni e come possono utilizzarle. Dovrebbero avere il diritto di verificare che queste informazioni siano accurate e, quando non lo è, per correggerlo. Dovrebbero avere il diritto – e la responsabilità – di mettere in discussione questa dipendenza bulimica dai dati e il suo scopo ultimo.

Come scrive Dave Eggers nel suo romanzo "The Circle, " "La ricerca incessante di dati per quantificare il valore di ogni sforzo è catastrofica per la vera comprensione."

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.