Qualche anno fa, assistenti digitali personali come Alexa di Amazon, Siri e Google Assistant di Apple sembravano futuristici. Ora, il futuro è qui e questo futuro è incorporato, aumentata e onnipresente.

Gli assistenti digitali si trovano nel tuo ufficio, casa, macchina, Hotel, telefono e molti altri posti. Di recente hanno subito una massiccia trasformazione e funzionano su sistemi operativi alimentati dall'intelligenza artificiale (AI). Osservano e raccolgono dati in tempo reale e hanno la capacità di estrarre informazioni da diverse fonti come dispositivi intelligenti e servizi cloud e inseriscono le informazioni nel contesto utilizzando l'intelligenza artificiale per dare un senso alla situazione. Sebbene abbiamo fatto molta strada nella progettazione e nell'esecuzione di queste tecnologie AI, c'è ancora molto lavoro da fare in questo campo.

Gran parte dei dati che questi assistenti digitali raccolgono e utilizzano includono dati personali, informazioni potenzialmente identificabili e possibilmente sensibili. Alexa o altri assistenti digitali personali possono violare la privacy e la sicurezza dei nostri dati? Possibilmente. C'è un lato oscuro in questi assistenti virtuali.

La mia esperienza è nella privacy dei dati, governance dei dati e intelligenza artificiale. In precedenza sono stato responsabile delle informazioni e della privacy presso l'Ufficio del Commissario per le informazioni e la privacy dell'Ontario.

Servizio di accoglienza

Immagina la seguente situazione.

Stai aspettando degli ospiti. Il tuo primo ospite arriva, e la telecamera di sicurezza esterna sulla tua veranda la riprende mentre cammina verso casa tua. Una voce gentile la accoglie e apre la porta. Una volta dentro, il tuo assistente digitale spiega al tuo ospite che stai arrivando e che presto tornerai a casa. Attraverso il tuo impianto audio domestico, il tuo assistente digitale riproduce una selezione dei brani preferiti dei tuoi ospiti (dalla tua rete di amici Spotify). Il tuo assistente digitale chiede al tuo ospite se la spezia di zucca è ancora il suo gusto di caffè preferito o se ne preferisce altri:vaniglia francese o colombiano. Subito dopo, il tuo ospite preleva il caffè dalla macchina da caffè digitale. Compiti di accoglienza ora completati, il tuo assistente digitale diventa silenzioso, e mentre ti aspetto, il tuo ospite fa alcune telefonate.

È affascinante come un assistente digitale possa convalidare in modo accurato e autonomo l'identità del tuo ospite, seleziona le sue canzoni preferite, ricorda il suo gusto di caffè preferito e gestisci gli elettrodomestici intelligenti di casa tua.

Assistenti di hosting

Ma il comportamento del tuo assistente digitale ti preoccupa?

Gli assistenti digitali possono registrare le nostre conversazioni, immagini e molti altri dati personali sensibili, inclusa la posizione tramite i nostri smartphone. Usano i nostri dati per l'apprendimento automatico per migliorarsi nel tempo. Il loro software è sviluppato e gestito da aziende che pensano costantemente a nuovi modi per raccogliere e utilizzare i nostri dati.

Simile ad altri programmi per computer, il problema fondamentale di questi assistenti digitali è che sono vulnerabili a guasti tecnici e di processo. Gli assistenti digitali possono essere hackerati anche da remoto, con conseguente violazione della privacy degli utenti.

Per esempio, una coppia dell'Oregon ha dovuto scollegare il proprio dispositivo Alexa, L'assistente virtuale di Amazon, poiché la loro conversazione privata è stata registrata e inviata a uno dei loro amici nel loro elenco di contatti.

In un altro incidente, un uomo tedesco ha ricevuto accidentalmente l'accesso a 1, 700 file audio di Alexa appartenenti a un perfetto sconosciuto. I file hanno rivelato il nome della persona, abitudini, lavori e altre informazioni sensibili.

Privilegio di consapevolezza

La crescente popolarità e disponibilità di assistenti digitali personali ha comportato un allargamento del cosiddetto digital divide. Il paradosso interessante è che gli individui consapevoli e sensibili alle questioni della privacy in genere limitano il loro utilizzo di strumenti digitali, mentre gli utenti meno inclini a proteggere la propria privacy incorporano ampiamente gli assistenti personali nelle loro vite digitali.

Gli assistenti digitali registrano continuamente i dati o aspettano che una parola si "svegli" o si attivi. Non limitano la raccolta dei dati alle informazioni dei proprietari o degli utenti autorizzati. Gli assistenti digitali personali possono raccogliere ed elaborare i dati personali degli utenti non approvati, come le loro voci.

Nella società digitalmente divisa, qualcuno che è esperto di privacy non inviterebbe tali apparecchiature nelle loro vite, mentre altri possono accettare o razionalizzare tali comportamenti.

Rispettare la privacy degli altri

In questa era di dispositivi onnipresenti e accesso a Internet, come dobbiamo affrontare questo paradosso e rispettare gli spazi e le scelte degli altri?

Rivisitiamo il nostro immaginario assistente digitale personale. Doveva elaborare diverse fonti di informazioni sull'ospite per operare come host intelligente. L'assistente digitale ha usato tutti quei dati per alimentare gli algoritmi o per invadere la privacy dell'ospite? A seconda di chi chiedi, la risposta sarà diversa.

La nostra educazione consapevole dell'etichetta ci dice che abbiamo la responsabilità sociale ed etica di rispettare i valori degli altri quando si tratta di tecnologie digitali. Ma le implicazioni e la crescita di queste tecnologie sono state così significative e rapide che non siamo ancora stati in grado di ridefinire le nostre norme e aspettative sociali.

Ad esempio, come ospite, abbiamo un obbligo etico nei confronti dei nostri ospiti di informarli sul nostro assistente digitale personale? È educato per un visitatore domestico chiedere all'host di disattivare i propri strumenti digitali? Dovremmo informarci sulla presenza di strumenti intelligenti e assistenti digitali prima di arrivare a casa di un amico, un hotel o un AirBnB?

La risposta a queste domande è sì, secondo l'esperto di etichetta Daniel Post Senning. Senning spiega che l'etichetta è più potente quando la usi come strumento di autovalutazione. Vorremmo essere informati che veniamo registrati in una riunione di lavoro o in un incontro privato? O come preferiamo che ci venga chiesto di disattivare gli strumenti digitali se stiamo ospitando? Le regole del galateo sono universali:essere premurosi, onesto e gentile.

Informa i tuoi colleghi e ospiti che i tuoi dispositivi digitali possono registrare le loro voci, immagini o altre informazioni. Chiedi al tuo host di disattivare gli assistenti digitali se non ti senti a tuo agio con loro. Ma sii premuroso. Potresti non voler chiedere al tuo host di disattivare gli assistenti digitali in presenza di qualcuno che è anziano o ha una disabilità e dipende da quegli strumenti.

Mantenimento della nostra privacy collettiva

La privacy è una norma sociale che dobbiamo lavorare insieme per mantenere. Prima di tutto, dobbiamo istruirci sulla sicurezza informatica e sui potenziali rischi delle tecnologie digitali. Dovremmo anche essere proattivi nel tenerci aggiornati con le ultime notizie sulle tecnologie e intraprendere azioni quando richiesto.

Il ruolo del governo in questo complesso paradigma è fondamentale. Abbiamo bisogno di leggi sulla privacy più forti per affrontare i problemi di privacy associati agli assistenti digitali personali. Proprio adesso, aziende come Amazon, Google e Apple stanno facendo le regole.

Altre giurisdizioni hanno sviluppato e implementato regolamenti come il Regolamento generale sulla protezione dei dati (GDPR) in Europa che fornisce una supervisione sulla raccolta dei dati per un'ampia varietà di dispositivi domestici. Il Canada dovrebbe seguire l'esempio.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.