Una serie di passi falsi sulla privacy negli ultimi mesi ha sollevato nuove preoccupazioni sul futuro degli assistenti digitali a comando vocale, un mercato in crescita visto da alcuni come la prossima frontiera dell'informatica.

Recenti incidenti che coinvolgono Google, I dispositivi Apple e Amazon sottolineano che, nonostante la forte crescita del mercato degli altoparlanti e dei dispositivi intelligenti, è necessario più lavoro per rassicurare i consumatori che i loro dati sono protetti quando usano la tecnologia.

Apple questa settimana ha detto che stava sospendendo il suo programma di "classificazione Siri", in cui le persone ascoltano frammenti di conversazioni per migliorare la tecnologia di riconoscimento vocale, dopo che il quotidiano britannico Guardian ha riferito che gli appaltatori stavano ascoltando informazioni mediche riservate, rapporti criminali e persino incontri sessuali.

"Ci impegniamo a offrire un'esperienza Siri eccezionale proteggendo la privacy degli utenti, "Apple ha dichiarato in una nota, aggiungendo che consentirebbe ai consumatori di attivare questa funzione in un futuro aggiornamento del software.

Google nel frattempo ha detto che sospenderà l'ascolto e la trascrizione delle conversazioni nell'Unione Europea dal suo Assistente Google sulla scia di un'indagine sulla privacy in Germania.

Amazzonia, che ha anche riconosciuto di utilizzare assistenti umani per migliorare l'intelligenza artificiale dei suoi dispositivi basati su Alexa, ha recentemente annunciato una nuova funzionalità che semplifica l'eliminazione di tutti i dati registrati.

I casi recenti possono dare ai consumatori l'impressione che qualcuno stia "ascoltando" le loro conversazioni, anche se raramente è vero.

"Dal punto di vista tecnologico, non sorprende che queste aziende utilizzino gli esseri umani per annotare questi dati, perché la macchina non è abbastanza buona per capire tutto, " disse Florian Schaub, un professore dell'Università del Michigan specializzato in interazione uomo-computer che ha svolto ricerche sugli assistenti digitali.

"Il problema è che le persone non se lo aspettano e non viene comunicato in modo trasparente".

Carolina Milanesi, un analista tecnologico con Creative Strategies, concordato che gli esseri umani sono necessari per migliorare la tecnologia.

"Le persone hanno un'aspettativa un po' irrealistica che questi assistenti, per magia, alla fine miglioreranno, che possono fare l'apprendimento automatico e migliorare da soli, ma in questo momento siamo ancora all'inizio dell'IA, e l'intervento umano è ancora importante, " lei disse.

Secondo la società di ricerca eMarketer, quasi 112 milioni di persone, un terzo della popolazione statunitense, utilizzeranno un assistente vocale almeno una volta al mese su qualsiasi dispositivo, con molti che utilizzano dispositivi basati sull'intelligenza artificiale per le ricerche, musica e notizie o informazioni.

Un sondaggio Microsoft di quest'anno tra i consumatori in cinque paesi ha rilevato che l'80% è soddisfatto della propria esperienza con gli assistenti digitali. Ma il 41% degli intervistati ha affermato di nutrire preoccupazioni sulla privacy, fiducia e ascolto passivo.

Paure infondate?

Alcuni dei timori per la privacy che circondano gli altoparlanti intelligenti si basano su false ipotesi, nota degli analisti.

I dispositivi non registrano o trasmettono informazioni finché non vengono "attivati" con una parola chiave o una frase come "Ehi, Siri" o "Alexa".

Ma "c'è sempre il rischio di una falsa attivazione, " ha osservato Schaub.

"Devi fidarti del dispositivo e dell'azienda che produce il dispositivo che il microfono sta elaborando solo localmente fino a quando non si sente la parola di attivazione".

Ryan Calò, co-direttore di facoltà del Tech Policy Lab dell'Università di Washington, detto che mentre i dispositivi non stanno ascoltando, permangono preoccupazioni sull'accesso alle conversazioni.

"Se i dipendenti sentono cose a cui non dovrebbero avere accesso, questa è davvero una bandiera rossa, è una cattiva pratica, " disse Calò.

Bollire la rana

Calo ha affermato che è probabile che le preoccupazioni sulla privacy relative agli assistenti digitali aumenteranno man mano che i dispositivi espandono le loro capacità.

"Mi preoccupo di una tendenza in cui questi sistemi iniziano ad ascoltare qualcosa di più del semplice comando affermativo:potrebbero ascoltare la rottura di vetri o segni di angoscia, o un bambino che piange. All'improvviso il sistema ascolta ogni genere di cose e la rana viene bollita riscaldando l'acqua in modo incrementale, " Egli ha detto.

Calo ha anche espresso preoccupazione per il fatto che i dispositivi possano essere accesi da remoto, una potenziale minaccia per le libertà civili.

"Se le forze dell'ordine ottengono un mandato, potrebbe trasformare il tuo Echo in un dispositivo di ascolto, " Egli ha detto.

Schaub ha affermato che i consumatori sono anche preoccupati che i dati dei dispositivi possano essere utilizzati per il targeting degli annunci.

"Le persone vogliono questi vantaggi ma senza permettere che i loro dati vengano usati contro di loro, " Egli ha detto.

Ancora, il fascino degli assistenti digitali significa che è probabile che il mercato continui a crescere.

Schaub ha affermato che un modo per rassicurare i consumatori sarebbe quello di creare funzionalità di privacy direttamente nei comandi vocali in modo che gli utenti possano capire come vengono utilizzati i loro dati e fare scelte migliori.

"Le aziende dovrebbero vedere questa come un'opportunità per coinvolgere i clienti su come li stanno proteggendo, " Egli ha detto.

© 2019 AFP