La dimostrazione dell'intelligenza artificiale di Google è stata divertente, ma ha sollevato una domanda importante:hai il diritto di sapere che stai parlando con una macchina?

Google ci ha sorpreso tutta questa settimana con l'introduzione del suo nuovo sistema di intelligenza artificiale, Google duplex.

A differenza di Siri, Alexa e altri assistenti AI, il sistema parla come un essere umano convincente. Cosa c'è di più, è progettato per effettuare telefonate per tuo conto, come prenotare un tavolo in un ristorante o un appuntamento in un parrucchiere.

"Penso che AI ​​Duplex sia una tecnologia interessante, ", afferma Hussein Abbass, esperto di intelligenza artificiale dell'UNSW Canberra e professore SEIT.

"Non voglio certo perdere tempo a fare telefonate per prenotare un ristorante o un parrucchiere."

Una conversazione con Duplex scorre, "ums" e "mmm-hmms" vengono inseriti per buona misura, ed è probabile che la persona ricevente non abbia idea di parlare con una macchina.

E per molti questo rappresenta una preoccupazione etica. Duplex dovrebbe presentarsi come un robot?

Il professor Abbass dice che dovrebbe.

"Il punto chiave qui è che dovrebbe identificarsi, "dice il professor Abbass.

"Nel video, AI Duplex ha detto che sta chiamando per conto di un cliente. L'umano dall'altra parte della linea non gli ha mai chiesto di identificarsi. Se AI Duplex utilizza un nome umano per ottenere la fiducia umana, allora chiaramente c'è un elemento di inganno e l'IA agirebbe in modo non etico.

"Se AI Duplex si identifica come un robot automatizzato o simili, poi spetterà all'umano decidere se desidera continuare la conversazione."

Il professor Abbass afferma che AI ​​Duplex raccoglie firme vocali umane che continuano ad addestrare il robot e anche la sua stessa voce sembra essere una sintesi di una o più voci umane.

"Queste persone devono essere più consapevoli di come vengono utilizzati i loro dati e devono offrire un consenso esplicito per la raccolta dei dati e per l'uso previsto dei dati, " lui dice.

Se possiamo fidarci di Duplex per fissare gli appuntamenti dal parrucchiere, possiamo fidarci anche per fare una chiamata di emergenza? Il professor Abbass dice che questo potrebbe avere i suoi pro e i suoi contro.

"Un assistente di macchina potrebbe chiamare l'ambulanza in caso di emergenza come un incidente, e in questo caso, è una tecnologia salvavita, " lui dice.

"Se viene abusato, poi come ogni tecnologia, quando viene utilizzato in modo improprio è un atto inappropriato, che potrebbe anche essere illegale".

Il professor Abbass afferma che la tecnologia ha ancora molta strada da fare prima di essere in grado di sostenere lunghe discussioni umane.

"Tuttavia, questa tecnologia è un eccellente esempio del motivo per cui la tecnologia deve essere eticamente consapevole. Se un essere umano chiede assistenza per effettuare una chiamata inappropriata, AI Duplex dovrebbe dire "no", " Aggiunge.