I nuovi "modelli di classificazione" rilevano quanto gli umani si fidino delle macchine intelligenti con cui collaborano, un passo verso il miglioramento della qualità delle interazioni e del lavoro di squadra.

L'obiettivo a lungo termine dell'intero campo di ricerca è progettare macchine intelligenti in grado di modificare il proprio comportamento per aumentare la fiducia umana in esse. I nuovi modelli sono stati sviluppati nella ricerca guidata dall'assistente professore Neera Jain e dalla professoressa associata Tahira Reid, nella Scuola di Ingegneria Meccanica della Purdue University.

"Macchine intelligenti, e più in generale, i sistemi intelligenti stanno diventando sempre più comuni nella vita quotidiana degli esseri umani, " ha detto Jain. "Poiché gli esseri umani sono sempre più tenuti a interagire con i sistemi intelligenti, la fiducia diventa un fattore importante per le interazioni sinergiche."

Per esempio, piloti di aerei e lavoratori industriali interagiscono abitualmente con i sistemi automatizzati. Gli umani a volte scavalcano inutilmente queste macchine intelligenti se pensano che il sistema stia vacillando.

"È risaputo che la fiducia umana è fondamentale per interazioni di successo tra esseri umani e macchine, " ha detto Reid.

I ricercatori hanno sviluppato due tipi di "modelli di sensori di fiducia empirici basati su classificatori, "un passo verso il miglioramento della fiducia tra umani e macchine intelligenti.

Il lavoro si allinea con la celebrazione del Giant Leaps di Purdue, riconoscendo i progressi globali dell'università fatti nell'intelligenza artificiale, algoritmi e automazione nell'ambito del 150esimo anniversario di Purdue. Questo è uno dei quattro temi del Festival delle Idee della celebrazione annuale, progettato per mostrare Purdue come un centro intellettuale che risolve problemi del mondo reale.

I modelli utilizzano due tecniche che forniscono dati per misurare la fiducia:l'elettroencefalografia e la risposta galvanica cutanea. Il primo registra modelli di onde cerebrali, e il secondo monitora i cambiamenti nelle caratteristiche elettriche della pelle, fornendo "set di caratteristiche" psicofisiologiche correlate con la fiducia.

Quarantacinque soggetti umani indossavano cuffie EEG wireless e indossavano un dispositivo su una mano per misurare la risposta galvanica della pelle.

Uno dei nuovi modelli, un "modello di sensore di fiducia generale, " utilizza lo stesso insieme di caratteristiche psicofisiologiche per tutti i 45 partecipanti. L'altro modello è personalizzato per ogni soggetto umano, con conseguente miglioramento della precisione media ma a scapito di un aumento del tempo di formazione. I due modelli avevano una precisione media del 71,22%, e 78,55 per cento, rispettivamente.

È la prima volta che le misurazioni EEG vengono utilizzate per misurare la fiducia in tempo reale, o senza indugio.

"Stiamo usando questi dati in un modo molto nuovo, " ha detto Jain. "Lo stiamo guardando in una sorta di flusso continuo invece di guardare le onde cerebrali dopo uno specifico innesco o evento".

I risultati sono dettagliati in un documento di ricerca che appare in un numero speciale della Association for Computing Machinery's Transactions on Interactive Intelligent Systems. Il numero speciale della rivista è intitolato "Fiducia e influenza nell'interazione intelligente uomo-macchina". Il documento è stato scritto dallo studente laureato in ingegneria meccanica Kumar Akash; ex studente laureato Wan-Lin Hu, che ora è un ricercatore associato post-dottorato presso la Stanford University; Jain e Reid.

"Siamo interessati a utilizzare i principi del controllo del feedback per progettare macchine in grado di rispondere ai cambiamenti del livello di fiducia umana in tempo reale per costruire e gestire la fiducia nella relazione uomo-macchina, " Jain ha detto. "Per fare questo, abbiamo bisogno di un sensore per stimare il livello di fiducia umana, di nuovo in tempo reale. I risultati presentati in questo documento mostrano che le misurazioni psicofisiologiche potrebbero essere utilizzate per fare questo".

La questione della fiducia umana nelle macchine è importante per il funzionamento efficiente dei "collettivi uomo-agente".

"Il futuro sarà costruito attorno a collettivi uomo-agente che richiederanno un coordinamento e una collaborazione efficienti e di successo tra esseri umani e macchine, " Disse Jain. " Diciamo che c'è uno sciame di robot che assiste una squadra di soccorso durante un disastro naturale. Nel nostro lavoro abbiamo a che fare con un solo uomo e una macchina, ma alla fine speriamo di passare a squadre di umani e macchine".

Sono stati introdotti algoritmi per automatizzare vari processi.

"Ma abbiamo ancora umani lì che controllano cosa sta succedendo, " ha detto Jain. "Di solito c'è una funzione di override, dove se pensano che qualcosa non vada bene possono riprendere il controllo."

A volte questa azione non è giustificata.

"Ci sono situazioni in cui gli umani potrebbero non capire cosa sta succedendo, quindi non si fidano del sistema per fare la cosa giusta, " Reid ha detto. "Così riprendono il controllo anche quando in realtà non dovrebbero."

In alcuni casi, ad esempio nel caso di piloti che escludono l'autopilota, riprendere il controllo potrebbe effettivamente ostacolare il funzionamento sicuro dell'aeromobile, provocando incidenti.

"Un primo passo verso la progettazione di macchine intelligenti in grado di creare e mantenere la fiducia con gli esseri umani è la progettazione di un sensore che consentirà alle macchine di stimare il livello di fiducia umana in tempo reale, " ha detto Giain.

Per convalidare il loro metodo, A 581 partecipanti online è stato chiesto di eseguire una simulazione di guida in cui un computer ha identificato gli ostacoli stradali. In alcuni scenari, il computer ha identificato correttamente gli ostacoli il 100% delle volte, mentre in altri scenari il computer ha identificato erroneamente gli ostacoli il 50% delle volte.

"Così, in alcuni casi ti direbbe che c'è un ostacolo, così tiri sui freni ed eviti un incidente, ma in altri casi ti direbbe erroneamente che esiste un ostacolo quando non ce n'era, quindi colpisci le pause senza motivo, " ha detto Reid.

Il test ha permesso ai ricercatori di identificare le caratteristiche psicofisiologiche che sono correlate alla fiducia umana nei sistemi intelligenti, e per costruire di conseguenza un modello di sensore di fiducia. "Abbiamo ipotizzato che il livello di fiducia sarebbe alto in prove affidabili e basso in prove errate, e abbiamo convalidato questa ipotesi utilizzando le risposte raccolte da 581 partecipanti online, " lei disse.

I risultati hanno convalidato che il metodo ha effettivamente indotto fiducia e sfiducia nella macchina intelligente.

"Per stimare la fiducia in tempo reale, richiediamo la capacità di estrarre e valutare continuamente le misurazioni psicofisiologiche chiave, " Ha detto Jain. "Questo lavoro rappresenta il primo utilizzo di misurazioni psicofisiologiche in tempo reale per lo sviluppo di un sensore di fiducia umana".

L'auricolare EEG registra i segnali su nove canali, ogni canale raccoglie diverse parti del cervello.

"Le onde cerebrali di ognuno sono diverse, quindi devi assicurarti di creare un classificatore che funzioni per tutti gli umani".

Per i sistemi autonomi, la fiducia umana può essere classificata in tre categorie:disposizionale, situazionale, e imparato.

La fiducia dispositiva si riferisce alla componente della fiducia che dipende da dati demografici come genere e cultura, che portano potenziali pregiudizi.

"Sappiamo che probabilmente ci sono differenze sfumate che dovrebbero essere prese in considerazione, " Reid ha detto. "Le donne si fidano in modo diverso rispetto agli uomini, Per esempio, e la fiducia può anche essere influenzata dalle differenze di età e nazionalità".

La fiducia situazionale può essere influenzata dal livello di rischio o difficoltà di un'attività, mentre appreso si basa sull'esperienza passata dell'essere umano con i sistemi autonomi.

I modelli che hanno sviluppato sono chiamati algoritmi di classificazione.

"L'idea è di essere in grado di utilizzare questi modelli per classificare quando qualcuno si sente probabilmente fiducioso rispetto a quando è probabile che si senta diffidente, " lei disse.

Jain e Reid hanno anche studiato la fiducia dispositiva per spiegare le differenze di genere e culturali, così come modelli dinamici in grado di prevedere come cambierà la fiducia in futuro sulla base dei dati.