Chiunque utilizzi lo shopping online, i social media o anche la posta elettronica subiscono volontariamente, anche se non necessariamente consapevolmente, l'influenza delle tecnologie personalizzate. La "profilazione" che porta alla pubblicità di determinati prodotti che ti perseguitano sul web può essere una seccatura. Ma le notizie recenti su Cambridge Analytica che acquisiscono dati personali da Facebook sollevano preoccupazioni più profonde sull'autonomia delle persone, e la sicurezza dei processi democratici.

La personalizzazione modella le esperienze politiche delle persone, commercio, vita personale e sociale. È un potente, principio tecnologicamente abilitato, che raccoglie informazioni sulle nostre scelte e preferenze per adattare il nostro impegno con gli oggetti, istituzioni, servizi e tra loro.

Certo, questo può aiutarci a prendere decisioni sui nostri compiti quotidiani più velocemente – per aiutarci ad essere più "noi stessi". La personalizzazione sembra spesso dare potere agli individui; per aiutarli a sentirsi competenti, in controllo e fiduciosi nei gusti e nelle opinioni che ci distinguono dagli altri.

Ma troppo spesso, c'è un "doppio vantaggio" nella personalizzazione, che non viene riconosciuto dagli utenti, finché non si confrontano con i suoi effetti. La personalizzazione ha sollevato interrogativi sulla privacy, responsabilità personale e consenso; ha destabilizzato i rapporti di potere tra i progettisti, produttori e consumatori; e ha interrotto il discorso tra partiti politici e cittadini. Ha anche il potenziale per compromettere la comprensione di cosa significa essere una persona, e un agente morale.

Nel controllo, o sotto controllo?

Oggi, gli incontri con la personalizzazione iniziano dalla nascita. I manichini intelligenti come Pacif-i utilizzano la tecnologia Bluetooth per monitorare la temperatura di un bambino, e registrare l'ultima volta che un genitore ha somministrato il farmaco, insieme al dosaggio. Questi dati vengono inviati ai telefoni dei genitori, e può essere condiviso con i medici. Più avanti nella vita, gli interventi medici personalizzati possono utilizzare l'analisi genetica per ottimizzare i trattamenti, prevedere i futuri esiti di salute e la probabilità di future malattie.

Avere queste informazioni potrebbe sembrare una buona cosa:Pacifi-i offre ai genitori la possibilità di tenere d'occhio la salute del loro bambino, mentre la medicina personalizzata offre agli utenti la possibilità di adeguare le proprie abitudini per ridurre al minimo l'insorgenza di una malattia. Ma questi interventi personalizzati potrebbero non essere così graditi se alle persone interessate viene impedito di ottenere l'assicurazione sanitaria, perché questi dati dettagliati sono stati comunicati a una compagnia di assicurazioni.

Allo stesso modo, il Bilancio Sanitario Personale del SSN offre un approccio personalizzato all'assistenza sociale, allocando le scelte di spesa ai pazienti. Il controllo della propria cura può aiutare le persone a sentirsi responsabilizzate. Ma la ricerca del nostro libro sulla personalizzazione mostra che questo vantaggio può essere distribuito in modo non uniforme per classe e istruzione, e che l'esigenza di scegliere e gestire il trattamento può presentare un onere maggiore per i pazienti e le loro famiglie.

L'effetto camera di eco nei social media può ostacolare il discorso politico attraverso suggerimenti personalizzati, che ci legano solo a "persone come noi". L'esperienza di autoaffermazione di apprezzare qualcosa su Facebook favorisce il nostro sentimento di appartenenza e di inclusione. Ma, allo stesso tempo, Facebook – e in effetti le aziende che raccolgono dati da Facebook – possono anche prevedere tratti identificativi che abbiamo scelto di non divulgare.

Innovazioni nella tecnologia di produzione, come la stampa 3D, offrire ai consumatori una combinazione di forma fisica e personalità. Alcuni produttori offrono anche agli amputati la possibilità di scegliere la finitura finale per i loro arti protesici. Oggi, non solo puoi personalizzare l'abbigliamento utilizzando piattaforme di design aperte, ma anche "prendere in prestito" la personalità di qualcun altro, Per esempio, personalizzazione della t-shirt di un famoso calciatore. Ma questa personalizzazione di massa destabilizza il rapporto tra produttori e consumatori, rendendo più difficile per i produttori pianificare picchi di domanda e picchi di vendite.

Personalizzazione per le persone

Con gli ultimi assistenti digitali e piattaforme geniali come Siri di Apple, Assistente Google e Amazon Echo, possiamo controllare i dispositivi con quella caratteristica più personale:la nostra voce. Eppure questi agenti personali virtuali hanno le loro voci, pure, e c'è il pericolo che tali sistemi possano finire con troppo potere per personalizzare ciò che ci offrono.

Ciò limiterebbe le opzioni degli utenti, anziché espanderle. Ma soprattutto, se una macchina assomiglia troppo a una persona – se è troppo socievole – allora c'è il pericolo che potremmo arrivare a pensarla come un agente capace di prendere decisioni indipendenti, quando in realtà sono semplicemente strumenti per portare a termine le nostre agende.

Nelle ultime settimane, numerose aziende hanno deciso di aggiornare le proprie politiche sulla privacy e sulla condivisione dei dati per rendere più semplice la comprensione da parte degli utenti o per trovare un'opzione di rinuncia. Ma questi documenti rimangono lunghi e complessi, e non tutti saranno in grado di dargli un senso. Il fatto che il Commissario per l'informazione del Regno Unito non sia stato in grado di accedere ai file di Cambridge Analytica prima di Facebook dimostra che i giganti dei social media hanno un vantaggio, su come vengono gestiti i nostri dati personali.

Facebook ha appena trasferito 1,5 miliardi di utenti dal suo quartier generale internazionale in Irlanda alla California per evitare multe fino al 4% del suo fatturato globale, se infrange le nuove norme sulla protezione dei dati che entreranno in vigore in Europa il 25 maggio, 2018. Chiaramente, non siamo ancora tutti insieme in questo. Il pubblico è tenuto all'oscuro sui modi in cui i dati vengono manipolati per influenzare le nostre scelte, atteggiamenti e comportamenti. Se la personalizzazione deve essere un vantaggio - e non una maledizione - gli utenti devono avere una voce più forte, influenzare il modo in cui i loro dati personali vengono condivisi.

Questo articolo è stato originariamente pubblicato su The Conversation. Leggi l'articolo originale.