La maggior parte di noi conosce piattaforme tecnologiche come Facebook e Google Track, archiviare e guadagnare dai nostri dati. Ma ci sono costantemente nuove rivelazioni su quanta parte della nostra privacy è stata intaccata.

L'ultima arriva dal Wall Street Journal, che ha lanciato una bomba venerdì quando i suoi test hanno rivelato che molte app per smartphone popolari hanno inviato dati personali a Facebook. Secondo quanto riferito, ciò include i dati delle app di monitoraggio della frequenza cardiaca e di monitoraggio del ciclo:"Flo Health Inc.'s Flo Period &Ovulation Tracker, che vanta 25 milioni di utenti attivi, ha detto a Facebook quando un utente aveva il ciclo o ha informato l'app dell'intenzione di rimanere incinta, i test hanno mostrato."

Quando utilizziamo tecnologie che tengono traccia dei nostri dati, entriamo in un sistema governato da algoritmi. E più informazioni forniamo, più ci avviciniamo a sistemi algoritmici che non controlliamo.

Abbiamo urgente bisogno di protezioni che si occupino dei nostri interessi personali in questo sistema. Proponiamo il concetto di "guardiani algoritmici" come soluzione efficace.

Come funzionano gli algoritmi di tracciamento dei dati?

Quotidiano, a nostra insaputa, le aziende tecnologiche utilizzano i nostri dati per prevedere le nostre abitudini, preferenze e comportamenti. Gli algoritmi che operano dietro qualsiasi cosa, dai sistemi di raccomandazione musicale ai sistemi di sicurezza domestica di riconoscimento facciale, utilizzano questi dati per creare una nostra versione gemella digitale.

Ci vengono quindi serviti contenuti e pubblicità in base a ciò che l'algoritmo ha deciso che vogliamo e di cui abbiamo bisogno, senza spiegare come si è arrivati ​​a quella decisione, o permettendoci qualsiasi input nel processo decisionale.

E i nostri interessi probabilmente vengono in secondo piano rispetto a quelli che hanno sviluppato l'algoritmo.

Contrariamente a quanto suggerisce il concetto, non controlliamo direttamente la "personalizzazione", e non abbiamo quasi alcun modo per proteggere la nostra autonomia in queste transazioni di dati e nel processo decisionale.

Che cos'è un "guardiano algoritmico"?

Abbiamo proposto il concetto di guardiani algoritmici, che potrebbe essere programmato per gestire le nostre interazioni digitali con piattaforme e app social in base alle nostre preferenze personali.

Sono previsti come bot, assistenti personali o tecnologia olografica che ci accompagnano ovunque ci avventuriamo online, e avvisaci di cosa sta succedendo dietro le quinte.

Questi guardiani sono essi stessi algoritmi, ma lavorano solo per noi. Come il software antivirus, quelli che non riescono a proteggere gli utenti falliranno, mentre quelli che guadagnano una reputazione come guardiani fidati avranno successo.

In termini pratici, i nostri tutori ci renderebbero riconoscibili o anonimi quando scegliamo di esserlo. Altererebbe anche la nostra identità digitale secondo i nostri desideri, in modo da poter utilizzare diversi servizi con diversi set di preferenze personali. I nostri tutori mantengono i nostri dati personali nelle nostre mani assicurandoci che i nostri backup e password siano al sicuro. Decideremmo cosa si ricorda e cosa si dimentica.

Un guardiano algoritmico:

• avvisaci se la nostra posizione, l'attività o le conversazioni online venivano monitorate o tracciate, e dacci la possibilità di scomparire
• aiutaci a comprendere i punti rilevanti di termini e condizioni lunghi e ingombranti quando ci iscriviamo a un servizio online
• dacci una semplice spiegazione quando non capiamo cosa sta succedendo ai nostri dati tra il nostro computer, tabulati telefonici e le decine di app in esecuzione in background sui nostri telefoni
• avvisaci se un'app sta inviando dati dai nostri telefoni a terze parti, e dacci la possibilità di bloccarlo in tempo reale
• dicci se i nostri dati sono stati monetizzati da terzi e a cosa servivano.

Immaginiamo i guardiani algoritmici come la prossima generazione degli attuali assistenti personali come Siri, Alexa o Watson. Grazie alla tecnologia indossabile e ai modelli avanzati di interazione uomo-computer, saranno costantemente e facilmente accessibili.

I nostri guardiani digitali non devono essere intelligenti allo stesso modo degli umani. Piuttosto devono essere intelligenti in relazione all'ambiente in cui vivono, riconoscendo e comprendendo gli altri algoritmi che incontrano.

In ogni caso, anche se i tutori algoritmici (a differenza degli algoritmi di terze parti) sono di proprietà dell'utente e sono totalmente sotto il nostro controllo, riuscire a capire come funzionano sarà una priorità per renderli pienamente affidabili.

Quando arriveranno i guardiani algoritmici?

La tecnologia per abilitare i guardiani algoritmici sta emergendo mentre parliamo. Quello che è in ritardo è la diffusa consapevolezza che ne abbiamo bisogno.

Puoi vedere versioni primitive della tecnologia dei guardiani algoritmici nei depositi digitali per l'archiviazione e la gestione delle password, e nelle impostazioni del software che ci danno un certo controllo su come vengono utilizzati i nostri dati.

L'apprendimento automatico spiegabile è un argomento scottante in questo momento, ma ancora molto nel campo della ricerca. Affronta il problema della "scatola nera", dove non abbiamo informazioni su come un algoritmo sia effettivamente arrivato alla sua decisione finale. In pratica, potremmo sapere che la nostra richiesta di prestito è stata respinta, ma non sappiamo se sia stato a causa della nostra storia di bollette elettriche non pagate, o per il nostro cognome.

Senza questa responsabilità, momenti chiave della nostra vita sono mediati da sconosciuti, invisibile, e algoritmi arbitrari. I guardiani algoritmici potrebbero assumere il ruolo di comunicare e spiegare queste decisioni.

Ora che gli algoritmi sono diventati pervasivi nella vita quotidiana, la spiegabilità non è più una scelta, ma un'area che richiede urgentemente ulteriore attenzione.

Abbiamo bisogno di sviluppare specifici modelli di guardiani algoritmici nei prossimi due anni per gettare le basi per i sistemi algoritmici aperti nel prossimo decennio. Quel modo, se un'app vuole dire a Facebook che sei incinta, lo saprai prima che accada.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.