Nel 1998, Google ha iniziato con umiltà, formalmente incorporato in un garage di Menlo Park, fornendo risultati di ricerca da un server ospitato in mattoncini Lego. Aveva un obiettivo chiaro:rendere accessibile agli umani il World Wide Web scarsamente indicizzato. Il suo successo si è basato su un algoritmo che ha analizzato la struttura di collegamento di Internet stessa per valutare quali pagine Web sono più affidabili e utili. Ma i fondatori Sergey Brin e Larry Page avevano un obiettivo molto più ambizioso:volevano organizzare le informazioni a livello mondiale.

Venti anni dopo, hanno costruito un'azienda andando ben oltre quell'obiettivo ambizioso, fornire a privati ​​e aziende e-mail, condivisione di file, web hosting, domotica, smartphone e innumerevoli altri servizi. La startup ludica nata come geometra del web è diventata artefice della realtà, creare e definire cosa trovano i suoi miliardi di utenti, vedere, conoscere o addirittura essere a conoscenza.

Google controlla oltre il 90% del mercato globale della ricerca, guidando sia gli utenti che le aziende a progettare siti web che facciano appello agli algoritmi dell'azienda. Se Google non riesce a trovare un'informazione, quella conoscenza semplicemente non esiste per gli utenti di Google. Se non è su Google, esiste davvero?

La macchina dell'intimità

Nonostante i suoi miliardi di query di ricerca con risposta, Google non è solo una segreteria telefonica. Google monitora le risposte su cui le persone fanno clic, assumendo che siano più rilevanti e di maggior valore, e restituendoli in modo più evidente nelle ricerche future su quell'argomento. L'azienda monitora anche le attività degli utenti sulla propria posta elettronica, applicazioni aziendali, musica e sistemi operativi mobili, utilizzando quei dati come parte di un ciclo di feedback per offrire agli utenti più di ciò che vogliono.

Tutti i dati che raccoglie sono la vera fonte del dominio di Google, rendendo i servizi dell'azienda sempre migliori nel fornire agli utenti ciò che desiderano. Attraverso il completamento automatico e il filtraggio personalizzato dei risultati di ricerca, Google cerca di anticipare le tue esigenze, a volte prima ancora di averli. Come ha affermato una volta l'ex presidente esecutivo di Google, Eric Schmidt, "In realtà penso che la maggior parte delle persone non voglia che Google risponda alle loro domande. Vogliono che Google dica loro cosa dovrebbero fare dopo".

Tra vent'anni, con altri due decenni di progresso, Google sarà ancora più realizzato, forse avvicinandosi a una visione espressa da Brin anni fa:"Il motore di ricerca perfetto sarebbe come la mente di Dio". Le persone si affidano a questi strumenti, con i loro avanzati algoritmi basati sull'intelligenza artificiale, non solo per sapere le cose, ma per aiutarli a pensare.

La barra di ricerca è già diventata un luogo in cui le persone fanno domande personali, una sorta di confessionale o flusso di coscienza che rivela profondamente chi sono gli utenti, cosa credono e cosa vogliono. Nel futuro, Google ti conoscerà ancora più intimamente, combinare i risultati della ricerca, cronologia di navigazione e rilevamento della posizione con dati sulla salute biofisica da dispositivi indossabili e altre fonti che potrebbero offrire potenti informazioni sul tuo stato d'animo.

Un nuovo tipo di vulnerabilità

Non è inverosimile immaginare che, nel futuro, Google potrebbe sapere se un individuo è depresso, o ha il cancro, prima che l'utente se ne renda conto. Ma anche al di là di questo, Google potrebbe avere il ruolo cruciale in un allineamento sempre più stretto tra ciò che pensi siano le tue esigenze, e ciò che Google ti dice che sono.

Al di là dei suoi effetti sulle singole persone, Google sta accumulando potere per influenzare la società, forse in modo invisibile. La fiction ha un avvertimento su come potrebbe apparire:nel film "Ex Machina, " un genio imprenditoriale rivela come ha assemblato la materia prima di miliardi di query di ricerca in una mente artificiale altamente efficace nel manipolare gli esseri umani in base a ciò che apprende sui comportamenti e sui pregiudizi delle persone.

Ma questa situazione non è davvero una finzione. Già nel 2014, i ricercatori di Facebook hanno dimostrato infamemente quanto sia facile manipolare gli utenti con post positivi o negativi nei loro feed di notizie. Man mano che le persone danno agli algoritmi più potere sulla loro vita quotidiana, noteranno come le macchine le stanno guidando?

Sopravvivere al glorioso futuro

Se Google alla fine eserciti questo potere dipende dai suoi leader umani e dalla società digitale che Google è così centrale nella costruzione. L'azienda sta investendo molto nell'intelligenza artificiale, impegnandosi in un futuro altamente automatizzato in cui la meccanica e, forse, le vere intuizioni della ricerca della conoscenza diventano difficili o impossibili da comprendere per gli umani.

Google sta gradualmente diventando un'estensione del pensiero individuale e collettivo. Diventerà più difficile riconoscere dove finiscono le persone e inizia Google. Le persone diventeranno sia potenziate che dipendenti dalla tecnologia, che sarà di facile accesso per chiunque ma difficile da controllare per le persone.

Gli esseri umani dovranno trovare il modo di collaborare e dirigere le attività di un'intelligenza artificiale sempre più sofisticata, piuttosto che diventare semplicemente utenti che seguono ciecamente le piste di scatole nere che non capiscono o controllano più.

Sulla base dei nostri studi sulle complesse relazioni tra persone e tecnologie, una chiave fondamentale per questa nuova comprensione degli algoritmi sarà lo storytelling. Il cervello umano non è in grado di comprendere ed elaborare i dati, il che è, Certo, il punto di forza di una macchina. Lavorare insieme, una nuova relazione uomo-macchina dovrà dipendere da una forza unicamente umana:la narrazione. Le persone lavoreranno al meglio con sistemi in grado di elaborare storie e spiegare le loro azioni in modi che gli esseri umani possono comprendere e modificare.

Quanto più le persone affidano ai sistemi informatici l'organizzazione della cultura e della società, più dovrebbero esigere che quei sistemi funzionino secondo regole che gli esseri umani possono comprendere. Il giorno in cui smetteremo di essere gli autori principali della storia dell'umanità è il giorno in cui smetterà di essere una storia su di noi.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.