Immagina che un'auto senza conducente all'avanguardia sfreccia lungo una strada con un passeggero disabile di 90 anni. Una giovane madre con un bambino entra in strada. L'auto deve prendere una decisione:guidare la madre e il bambino e ucciderli, o sbattere contro un muro e uccidere il passeggero.

Questa è una variante del problema del carrello, che domina il pensiero accademico e popolare sull'etica delle auto senza conducente. Il problema è che tali dibattiti non solo ignorano la complessità del sistema in cui esisteranno le auto senza conducente, ma sono davvero false piste morali. I veri problemi etici risiedono nella politica e nei problemi di potere con le auto senza conducente.

I governi di tutto il mondo si stanno interessando profondamente alle auto senza conducente. Il governo tedesco ha prodotto linee guida etiche per le auto senza conducente. Il governo del Regno Unito ha promesso auto senza conducente in circolazione entro il 2021, e il governo russo entro la fine del 2018. La Cina ha piani ambiziosi per connettere le auto senza conducente a Internet e installare sensori nelle strade e nei semafori entro il 2025.

Più rivelatore è il modo in cui le auto senza conducente compaiono nel Libro bianco dell'UE sul futuro dell'Europa nel 2025, pubblicati nel marzo 2017. Costituiscono una parte significativa di un'istantanea di come potrebbe apparire l'Europa in un futuro in cui i paesi dell'UE si sono effettivamente uniti per diventare un superstato federale. In questo scenario, il libro bianco dice, le auto senza conducente fioriranno, svolazzando senza ostacoli attraverso i confini di città in città.

C'è un motivo per cui i governi sono così entusiasti delle auto senza conducente, e non è solo per i potenziali benefici economici. Offrono la possibilità di un monitoraggio e persino di un controllo ancora maggiori di ogni mossa dei cittadini. Lungi dal renderci liberi, le auto senza conducente minacciano di consentire nuove forme di sorveglianza e oppressione.

Un'auto senza conducente è un computer su ruote, l'ultimo dispositivo mobile connesso a Internet. Ricco di sensori, fornisce un flusso di informazioni bidirezionale costante. L'auto invia informazioni sulle sue prestazioni al produttore. Riceve aggiornamenti software, segnali di controllo sugli adeguamenti al suo comportamento. Il produttore sa dove si trova l'auto, quali sono le condizioni stradali e la temperatura e come si comporta il veicolo a una determinata velocità.

L'assicuratore dell'auto può ricevere informazioni minuto per minuto sullo stato dell'auto, Posizione, velocità e le condizioni della strada su cui si trova, e potrebbe variare l'assicurazione di conseguenza. Potrebbe anche dare un preavviso di dieci minuti in caso di perdita di copertura e fermare l'auto.

Nel frattempo, è probabile che anche i database governativi sappiano dove si trova l'auto, se è destinato ad essere lì e dove sta andando. E persino, utilizzando l'analisi predittiva, dove andrà per il suo prossimo viaggio. Le autostrade intelligenti gestiranno i flussi di traffico, rallentando le auto senza conducente come parte di un flusso di comunicazione tra l'auto e la strada. Nelle città intelligenti, i semafori devieranno le auto in deviazioni in base a calcoli e previsioni sugli ingorghi, lavori stradali, o requisiti statali.

Possono essere creati mercati in percorsi veloci attraverso le città e verso destinazioni centrali. Le aziende possono pagare per i dipendenti per l'utilizzo di percorsi virtuali prioritari. I diari di viaggio possono rendere abbastanza chiaro dove sei andato e quando. Le ragioni del tuo viaggio possono essere dedotte prevedibilmente dal paesaggio, dalle destinazioni e dai tempi.

Fine dell'autonomia

Da oltre 130 anni, le auto hanno rappresentato il massimo dell'autonomia, individualità e libertà democratica. I nostri viaggi in auto sono privati ​​e anonimi. Possiamo andare dove ci piace e quando ci piace. Non dobbiamo dirlo a nessuno. E ci riserviamo la responsabilità di obbedire alla legge. Le auto senza conducente porranno fine a tutto questo.

Ora produttori, i governi e le autorità cittadine sapranno dove stiamo andando, cosa stiamo facendo e quando. Se a qualcuno non piace quello che stiamo facendo, potranno fermarci, revocare la copertura tecnica e infortunistica, impediteci di usare strade o strade particolari, o semplicemente chiuderci. Non sarà l'auto ad essere autonoma, ma le autorità e i sistemi che gestiscono e mantengono quell'auto, che disegnano e inviano informazioni da e verso l'auto.

Le auto senza conducente annunceranno una nuova era di controllo da parte dei cittadini. Nella retorica di renderci più sicuri e ridurre i rischi, il potere sarà tolto e consegnato alle autorità centrali, siano esse città, governi o commissioni. Per metterci al sicuro, i governi ci lasceranno impotenti.

Ora i controllori possono semplicemente cambiare il nostro percorso per i propri scopi, se prevenire gli ingorghi o liberare un percorso per un dignitario. Ora possono inviarci a negozi particolari, o direttamente a una stazione di polizia. Ora i controllori possono gestire le popolazioni di auto per soddisfare gli scopi del consiglio o del governo.

In uno stato democratico, il crescente flusso di informazioni personalizzate verso l'autorità centralizzata fornirà la base per la regolamentazione e l'applicazione. I suoi nuovi cittadini gestiti saranno il bersaglio di spinte comportamentali e pubblicità che confluiranno nell'auto senza conducente. Nello stato dittatoriale, le autorità possono impedirti di andare a una manifestazione, o impedirti di andare in chiesa.

E tali sistemi gestiti centralmente, che sarà essenziale per la sicurezza delle auto senza conducente, non sono solo aperti agli inevitabili fallimenti tecnologici di sistemi complessi, ma anche all'hacking e agli attacchi di altri stati e individui. Perché hackerare una macchina, quando puoi violare un intero sistema cittadino e fermare il traffico, o crash 30, 000 auto l'una nell'altra?

Nel riflettere sull'etica delle auto senza conducente dobbiamo andare oltre i vincoli di carrelli e leve per un'agenda più ampia che affronti i concetti di autonomia, Comunità, trasparenza, identità, valore ed empatia. Il nostro dibattito etico deve affrontare i cambiamenti di potere, le responsabilità politiche e i diritti umani che la nostra visione delle auto senza conducente potrebbe richiedere per essere sacrificati.

Questo articolo è stato originariamente pubblicato su The Conversation. Leggi l'articolo originale.