Il CEO di Google Sundar Pichai parla alla conferenza Google I/O a Mountain View, California, Martedì, 8 maggio 2018. Google ha puntato i riflettori sulla sua intelligenza artificiale alla sua conferenza annuale degli sviluppatori martedì, dove ha annunciato nuove funzionalità e servizi imbevuti di machine learning. (Foto AP/Jeff Chiu)
L'intelligenza artificiale ha una nuova sfida:se e come avvisare le persone che potrebbero non sapere di parlare con un robot.
Martedì, Google ha mostrato un assistente informatico che effettua telefonate in modo convincente dal suono umano , almeno nella sua dimostrazione preregistrata. Ma le persone reali in quelle chiamate non sembravano rendersi conto che stavano parlando con una macchina. Ciò potrebbe presentare questioni spinose per l'uso futuro dell'IA.
Tra questi:è giusto, o addirittura legale, indurre le persone a parlare con un sistema di intelligenza artificiale che registra efficacemente tutte le sue conversazioni? E mentre la dimostrazione di Google ha evidenziato gli usi benigni dei robot conversazionali, cosa succede quando spammer e truffatori si impossessano di loro?
Il CEO di Google Sundar Pichai ha suscitato applausi martedì mentre ha dimostrato la nuova tecnologia, chiamato duplex, durante la conferenza annuale dell'azienda per gli sviluppatori di software. L'assistente aggiunse pause, "ums" e "mmm-hmms" al suo discorso per sembrare più umano mentre parlava con veri dipendenti in un parrucchiere e in un ristorante.
"È molto impressionante, ma può chiaramente portare a usi più sinistri di questo tipo di tecnologia, " ha detto Matteo Fenech, che ricerca le implicazioni politiche dell'IA per l'organizzazione con sede a Londra Future Advocacy. "La capacità di cogliere le sfumature, gli usi umani di piccole frasi aggiuntive - questo tipo di indizi sono molto umani, e chiaramente la persona dall'altra parte non lo sapeva."
Fenech ha detto che non è difficile immaginare usi nefasti di chatbot simili, come le attività di spamming, truffare anziani o effettuare chiamate dannose usando le voci di nemici politici o personali.
"Puoi avere situazioni potenzialmente molto destabilizzanti in cui viene segnalato che le persone dicono qualcosa che non hanno mai detto, " Egli ha detto.
Pichai e altri dirigenti di Google hanno cercato di sottolineare che la tecnologia è ancora sperimentale, e verrà lanciato con cautela. Non è ancora disponibile sui dispositivi consumer.
"Per noi è importante che gli utenti e le aziende abbiano una buona esperienza con questo servizio, e la trasparenza è una parte fondamentale di ciò, " Gli ingegneri di Google Yaniv Leviathan e Yossi Matias, che ha contribuito a progettare la nuova tecnologia, ha scritto in un post sul blog di martedì. "Vogliamo essere chiari sull'intento della chiamata in modo che le aziende capiscano il contesto. Sperimenteremo l'approccio giusto nei prossimi mesi".
Non è chiaro come la società affronterà le leggi sulle telecomunicazioni esistenti, che può variare in base allo stato o al paese. Google non ha restituito immediatamente una richiesta di commento mercoledì su come intende cercare il consenso delle persone chiamate dai suoi bot.
Un comproprietario di un barbiere della Bay Area di San Francisco che frequentava alcuni dipendenti di Google era un po' spaventato dalle implicazioni sulla privacy.
"Sembra qualcosa che sarebbe utile per i nostri clienti, " ha detto Katherine Esperanza, co-proprietario del barbiere Slick &Dagger di Oakland, California. Esperanza, però, mi chiedevo se il negozio sarebbe stato in grado di bloccare le chiamate, e ha affermato che "si pone la domanda se la conversazione è registrata e se il destinatario di queste chiamate automatizzate potrebbe essere consapevole che vengono registrate".
Le leggi anti-intercettazioni in California e in molti altri stati rendono già illegale registrare le telefonate senza il consenso sia del chiamante che della persona chiamata. Anche la Federal Communications Commission è alle prese con le regole per i robocall, le chiamate indesiderate e composte automaticamente dai telemarketing.
Tali chiamate sono tipicamente monologhi preregistrati, ma sempre più aziende e organizzazioni utilizzano tecniche di apprendimento automatico per rispondere alle domande di una persona con una conversazione dal suono naturale, nella speranza che abbiano meno probabilità di riagganciare.
© 2018 The Associated Press. Tutti i diritti riservati.
