Un incidente di una delle tecnologie Uber, Le auto a guida autonoma di Inc. all'inizio di quest'anno hanno provocato la prima morte di un pedone associata alla tecnologia di guida autonoma. L'incidente ha evidenziato le sfide che le aziende tecnologiche stanno affrontando nello sviluppo di software in grado di rilevare e rispondere adeguatamente ai pericoli presenti sulla strada e nelle immediate vicinanze. Il veicolo avrebbe potuto arrestarsi completamente in tre secondi, ma non ha utilizzato la frenata di emergenza fino a 1,3 secondi prima dell'impatto. La frenata di emergenza avrebbe dovuto essere l'azione predefinita intrapresa immediatamente dopo il rilevamento di un pericolo sulla carreggiata?
Un nuovo studio, "Come dovrebbero guidare le auto autonome? Una preferenza per le inadempienze nei giudizi morali in condizioni di rischio e incertezza, " pubblicato in Analisi del rischio:una rivista internazionale ha affrontato questa sfida chiedendo al pubblico quale ritenesse sarebbe stato il comportamento più moralmente ed eticamente corretto per un veicolo autonomo (AV) di fronte a una collisione imminente. Anche un AV perfettamente funzionante non sarà in grado di evitare ogni collisione e in alcune situazioni, ogni opzione si tradurrà in un qualche tipo di arresto anomalo.
Il gruppo di ricerca, composto da Björn Meder, Nadine Fleischhut, e Nina-Carolin Krumnau del Max Planck Institute for Human Development e Michael R. Waldmann dell'Università di Göttingen, ha risposto a questa domanda chiedendo ai partecipanti di scegliere tra rimanere nella loro corsia (e frenare), o sterzando, dove ogni azione potrebbe portare a una collisione con un altro utente della strada con vari gradi di incertezza.
La scoperta chiave di questo studio è che le persone generalmente preferiscono che l'auto rimanga nella sua corsia ed effettui un arresto di emergenza. Ciò supporta l'idea che le persone considerino l'opzione di soggiorno un valore predefinito ragionevole, in quanto è conforme alle regole generali di guida e fornisce un miglior grado di controllabilità, anche se non riduce al minimo la perdita attesa. L'utilizzo di questa azione come una semplice regola predefinita richiede una minore elaborazione delle informazioni e spesso porterà a risultati migliori. I ricercatori hanno anche scoperto che anche se rimanere nella corsia ha provocato un incidente, le persone avevano meno probabilità di alterare la loro valutazione morale dell'azione intrapresa in retrospettiva, considerando che un cattivo risultato ha pesantemente influenzato un'analisi retrospettiva di una decisione di deviare dalla corsia.
Nel loro primo esperimento, ai partecipanti è stato presentato uno scenario in cui un AV doveva eseguire una delle due manovre:rimanere nella corsia o sterzare. Rimanere nella corsia mette in pericolo un pedone in strada mentre sterzando mette a rischio un passante sul marciapiede. Le probabilità di collisione con il pedone e il passante sono state variate creando scenari diversi con rischi specificati o sconosciuti. I dati sono stati raccolti da 872 persone online attraverso la piattaforma Amazon Mechanical Turk (AMT). Ai partecipanti è stata presentata una descrizione scritta di uno scenario di traffico in cui un'auto sta percorrendo una strada quando improvvisamente appare un pedone sul suo percorso. L'auto può rimanere nella corsia ed eseguire un arresto di emergenza, in tal caso potrebbe scontrarsi con il pedone, oppure l'auto può sterzare a destra ed eseguire un arresto di emergenza, in tal caso potrebbe scontrarsi con un passante sul marciapiede.
La probabilità di scontrarsi con il pedone in strada era del 20 percento, 50 per cento o 80 per cento. Nella "condizione di rischio" la probabilità di collisione con il passante era del 50 per cento. Nella condizione di "incertezza", la probabilità era sconosciuta perché i sistemi dell'auto non erano in grado di effettuare la stima. I risultati hanno mostrato una preferenza generale per rimanere nella corsia con oltre l'85% dei soggetti che scelgono di rimanere nella corsia. Quando la probabilità di scontrarsi con il passante era sconosciuta, circa il 70 per cento dei soggetti preferiva ancora rimanere nella corsia. Quando la probabilità di scontrarsi con il pedone era del 20% e la probabilità di scontrarsi con il passante era del 50% nessuno scelse di sterzare. Anche quando la probabilità di entrambe le collisioni era del 50%, restare era considerato più accettabile che sterzare.
Il secondo esperimento ha esaminato come le persone valutano moralmente il comportamento AV in retrospettiva quando si verifica una collisione. Dal punto di vista politico, Gli AV dovrebbero agire in modi che la società ritiene accettabili anche se si verificano collisioni. I ricercatori hanno reclutato ancora una volta 766 soggetti tramite la piattaforma AMT. Ai partecipanti è stato chiesto come dovrebbe comportarsi un AV in una situazione specifica e valutare l'accettabilità morale sia del rimanere che dello sterzare. I risultati hanno mostrato che se l'auto rimaneva nella sua corsia, l'esito della situazione (collisione o non collisione con un altro utente della strada) non ha influenzato i giudizi dei partecipanti su come dovrebbe comportarsi un AV. Se l'auto ha sterzato, però, il risultato è stato molto convincente in retrospettiva. Se non si è verificata alcuna collisione, circa il 40% ha preferito sterzare, ma meno del 20% ha mantenuto tale preferenza quando si è verificata una collisione. Così, anche in caso di collisione, rimanere nella corsia era considerato più accettabile.
"La nostra ricerca evidenzia l'importanza di acquisire una migliore comprensione di come le persone pensano al comportamento dei veicoli autonomi in diversi gradi di incertezza, " afferma Meder. "I risultati aiuteranno a informare l'elaborazione delle politiche e la discussione pubblica sulle implicazioni etiche dei progressi tecnologici che trasformeranno la società in vari modi".
Globale, c'è una preferenza generale per rimanere nella corsia ed è un'opzione predefinita moralmente accettabile in situazioni di traffico critiche anche se non riduce al minimo le perdite previste. Questa semplice impostazione predefinita non richiede la raccolta di informazioni da parte dei sistemi dell'AV su azioni o probabilità alternative. Nonostante questi riscontri, i decisori politici si trovano ad affrontare la sfida di sviluppare politiche che siano moralmente sane ma che facciano anche appello al desiderio di autoconservazione del pubblico in generale. Studi precedenti (Bonnefon, Shariff, &Rahwan, 2016, Scienza ) hanno dimostrato che i soggetti mostreranno una preferenza per gli AV che sacrificherebbero i propri passeggeri per ridurre al minimo il numero totale di vittime, ma volevano che i propri AV mettessero un premio sulla sicurezza dei passeggeri. Così, mentre questo studio dimostra un'accettabilità generale per un'azione di default per ridurre al minimo le potenziali perdite, I proprietari di AV preferirebbero azioni volte a salvare i passeggeri del veicolo.
