Di tutti gli assistenti virtuali immaginari che conosciamo dalla cultura pop, pochi resistono all'originale e forse il più famoso:l'HAL 9000 del film di Stanley Kubrick del 1968 2001:Odissea nello spazio.

Probabilmente dovremmo essere grati per questo. Dopotutto, Alexa potrebbe spegnere le luci, ma non si rivolterà contro di te e non rovinerà la tua vita. O lo farà?

Amazon Alexa, Samsung Bixby, Assistente Google, Mela Siri, Cortana di Microsoft, IBM Watson e altri assistenti virtuali sono pubblicizzati come un incrocio tra il tuo amico, il tuo servo, il tuo utile compagno e compagno.

HAL ci presenta qualcosa di più sinistro, ma forse più realistico. Mentre le aziende tecnologiche promuovono gli assistenti virtuali come parte integrante di un miglioramento, vita più facile, 2001:Odissea nello spazio chiede:a quale prezzo?

Il film illustra l'ecosistema tecnologico che le aziende sono davvero in competizione per possedere, uno in cui scambiamo la nostra privacy per piccole comodità.

'Voglio aiutarti' – HAL

Nel 2001:Odissea nello spazio, HAL viene presentato all'equipaggio di un'astronave come uno di loro. Ma con capacità cognitive ben oltre quelle dei suoi compagni umani, HAL è onnipresente e integrato nella tecnologia che tiene in vita l'equipaggio.

L'equipaggio si fida di HAL, evitando la privacy per il suo aiuto nel controllare l'intera nave. Non gli viene in mente che le persone che hanno progettato HAL potrebbero non aver avuto a cuore i migliori interessi dell'equipaggio. O che la lealtà di HAL sia al Controllo Missione e, oltre a questo, la sua programmazione.

Allo stesso modo, sebbene sia chiaro che la funzione dei moderni assistenti virtuali è guidata dal profitto, non è ovvio per il consumatore medio esattamente come viene monetizzata la sua presenza. I consumatori possono essere più istruiti sulla loro privacy online in questi giorni, tuttavia le conseguenze dell'intrusione del mondo virtuale in quello fisico non hanno permeato adeguatamente la coscienza pubblica.

Consentire a una macchina di registrarti 24 ore su 24, 7 giorni su 7, in cambio di comodità è un prezzo elevato da pagare. Potrebbe non sembrare così perché gli assistenti virtuali indossano l'alone di fiducia guadagnato dagli altri servizi per cui sono conosciuti:la ricerca di Google non ha eguali e l'esperienza di vendita al dettaglio di Amazon guida il mercato globale.

come HAL, queste macchine elaborano quantità incredibili di dati. Così tanto da, che anche i loro creatori non sono del tutto sicuri delle loro capacità, o come raggiungeranno il loro obiettivo. Il vantaggio commerciale degli assistenti virtuali risiede nella loro capacità di prevedere il tuo comportamento attraverso ciò che catturano, e creare opportunità per le transazioni. L'estrazione di big data per l'analisi predittiva è di gran moda nel mondo degli affari.

Così, mentre le aziende stanno commercializzando assistenti virtuali come il tuo "assistente", sono infatti il ​​tuo "analista".

"Ho potuto vedere le tue labbra muoversi" - HAL

Nel 2001:Odissea nello spazio, l'equipaggio chiaramente non ha mai letto la "Guida rapida" di HAL. Non sapevano che poteva mentire, ed erano anche ignari che potesse leggere le labbra. Quando l'equipaggio esce dalla nave per avere un momento di privacy, Le telecamere di HAL potevano ancora vederli e cogliere l'essenza della loro conversazione non così privata. Poi è arrivato il momento di spingere... e bene, alla fine l'equipaggio ha finito per ottenere la spinta.

Una conseguenza involontaria dell'avere un assistente virtuale a nostra completa disposizione è che è sempre in ascolto, e potrebbe anche registrare. Nessuna sorpresa, è esattamente quello che ha fatto Amazon. Se le aziende ti registrano a casa tua, errori come l'invio di registrazioni alla persona sbagliata, divulgazione involontaria di informazioni, o consentire accidentalmente a qualcuno di ascoltare sono inevitabili.

Oh, e se ritieni di essere protetto dai termini e condizioni, probabilmente ti sbagli. Ma va bene, come l'equipaggio di 2001:Odissea nello spazio, probabilmente non li capisci o non li leggi comunque.

'Temo di non poterlo fare, Dave' - HAL

Kubrick ha usato il 2001 per illustrare tecnologie, schiavitù fisica e psicologica. HAL controlla prima l'ambiente fisico e poi tenta di esercitare il suo controllo su quello psicologico. Se immaginiamo nuovamente 2001:Odissea nello spazio con HAL come eroe, allora ha ragione a uccidere l'equipaggio. Dopotutto, questi fastidiosi umani sono imprevedibili perché è probabile che lascino che le loro emozioni rovinino la missione.

Se reinventiamo le nostre vite con Google come eroe, beh allora noi siamo "l'assistente", aiutare Google a ottenere i dati di cui ha bisogno per monitorare e prevedere meglio il tuo comportamento, per gli azionisti.

Per fortuna, l'umanità ha ancora tempo per adattarsi prima che le macchine prendano il controllo delle nostre vite per conto delle aziende tecnologiche. Finché le persone avranno ancora i loro pappagalli che ordinano cibo da Amazon, sarà chiaro al pubblico che fidarsi di quella macchina potrebbe non essere una buona idea.

Ancora, l'intelligenza artificiale migliora rapidamente. Alla fine dovremo decidere se vogliamo che la privacy dei consumatori trionfi, e far saltare il monitoraggio costante fuori da una camera di equilibrio.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.