Nella corsa alla produzione di veicoli autonomi (AV), la sicurezza è cruciale ma a volte trascurata, come esemplificato dai recenti incidenti che hanno fatto notizia. I ricercatori dell'Università dell'Illinois a Urbana-Champaign utilizzano l'intelligenza artificiale (AI) e l'apprendimento automatico per migliorare la sicurezza della tecnologia autonoma attraverso progressi sia software che hardware.

"Utilizzare l'intelligenza artificiale per migliorare i veicoli autonomi è estremamente difficile a causa della complessità dei componenti elettrici e meccanici del veicolo, così come la variabilità delle condizioni esterne, come il tempo, Condizioni stradali, topografia, modelli di traffico, e illuminazione, " ha detto Ravi Iyer

"Si stanno facendo progressi, ma la sicurezza continua a essere una preoccupazione significativa".

Il gruppo ha sviluppato una piattaforma che consente alle aziende di affrontare in modo più rapido ed economico la sicurezza nell'ambiente complesso e in continua evoluzione della tecnologia autonoma. Stanno collaborando con molte aziende della Bay area, compreso Samsung, NVIDIA, e una serie di start-up.

"Stiamo assistendo a uno sforzo a livello di stakeholder in tutti i settori e le università con centinaia di startup e team di ricerca, e stiamo affrontando alcune sfide nel nostro gruppo, " disse Saurabh Jha, un dottorando in informatica che sta guidando gli sforzi degli studenti sul progetto. "Risolvere questa sfida richiede uno sforzo multidisciplinare attraverso la scienza, tecnologia, e manifatturiero."

Uno dei motivi per cui questo lavoro è così impegnativo è che gli AV sono sistemi complessi che utilizzano l'intelligenza artificiale e l'apprendimento automatico per integrare meccanica, elettronico, e tecnologie informatiche per prendere decisioni di guida in tempo reale. Un tipico AV è un mini-supercomputer su ruote; hanno più di 50 processori e acceleratori che eseguono più di 100 milioni di righe di codice per supportare la visione artificiale, pianificazione, e altre attività di apprendimento automatico.

Come previsto, ci sono problemi con i sensori e lo stack di guida autonoma (software e hardware di elaborazione) di questi veicoli. Quando un'auto viaggia a 70 miglia all'ora lungo un'autostrada, i guasti possono rappresentare un rischio significativo per la sicurezza dei conducenti.

"Se un conducente di un'auto tipica rileva un problema come la deriva o il traino del veicolo, il conducente può adeguare il proprio comportamento e guidare l'auto verso un punto di sosta sicuro, " Jha ha spiegato. "Tuttavia, il comportamento del veicolo autonomo può essere imprevedibile in tale scenario, a meno che il veicolo autonomo non sia esplicitamente addestrato per tali problemi. Nel mondo reale, ci sono un numero infinito di casi del genere."

Tradizionalmente, quando una persona ha problemi con il software su un computer o uno smartphone, la risposta IT più comune è spegnere e riaccendere il dispositivo. Però, questo tipo di correzione non è consigliabile per gli AV, poiché ogni millisecondo influisce sul risultato e una risposta lenta potrebbe portare alla morte. Le preoccupazioni per la sicurezza di tali sistemi basati sull'intelligenza artificiale sono aumentate negli ultimi due anni tra le parti interessate a causa di vari incidenti causati dagli AV.

"Le normative attuali richiedono aziende come Uber e Waymo, che testano i loro veicoli su strade pubbliche per riferire annualmente al DMV della California su quanto siano sicuri i loro veicoli, " disse Subho Banerjee, uno studente CSL e laureato in informatica. "Volevamo capire i problemi di sicurezza comuni, come si sono comportate le auto, e qual è la metrica di sicurezza ideale per capire come sono progettati."

Il gruppo ha analizzato tutti i rapporti di sicurezza presentati dal 2014-2017, coprendo 144 AV che guidano un cumulativo 1, 116, 605 miglia autonome. Hanno scoperto che per lo stesso numero di miglia percorse, le auto a guida umana avevano fino a 4000 volte meno probabilità di incidenti rispetto agli AV. Ciò significa che la tecnologia autonoma ha fallito, a un ritmo allarmante, per gestire in modo appropriato una situazione e disimpegnare la tecnologia, spesso affidandosi al conducente umano per prendere il sopravvento.

Il problema che i ricercatori e le aziende hanno quando si tratta di migliorare questi numeri è che fino a quando un sistema di veicoli autonomi non avrà un problema specifico, è difficile addestrare il software a superarlo.

Ulteriore, gli errori negli stack software e hardware si manifestano come problemi critici di sicurezza solo in determinati scenari di guida. In altre parole, i test eseguiti su AV su autostrade o strade vuote/meno affollate potrebbero non essere sufficienti in quanto le violazioni della sicurezza dovute a guasti software/hardware sono rare.

Quando si verificano errori, si verificano dopo aver percorso centinaia di migliaia di miglia. Il lavoro per testare questi AV per centinaia di migliaia di miglia richiede molto tempo, soldi, ed energia, rendendo il processo estremamente inefficiente. Il team sta utilizzando simulazioni al computer e intelligenza artificiale per accelerare questo processo.

"Iniettiamo errori nello stack software e hardware dei veicoli autonomi in simulazioni al computer e quindi raccogliamo dati sulle risposte dei veicoli autonomi a questi problemi, " disse Jha. "A differenza degli umani, La tecnologia AI oggi non può ragionare sugli errori che possono verificarsi in diversi scenari di guida. Perciò, necessitano di grandi quantità di dati per insegnare al software a intraprendere l'azione giusta di fronte a problemi software o hardware."

Il gruppo di ricerca sta attualmente sviluppando tecniche e strumenti per generare condizioni di guida e problemi che incidono al massimo sulla sicurezza AV. Usando la loro tecnica, possono trovare un gran numero di scenari critici per la sicurezza in cui gli errori possono portare a incidenti senza dover enumerare tutte le possibilità sulla strada:un enorme risparmio di tempo e denaro.

Durante il test di una tecnologia AV apertamente disponibile, Apollo da Baidu, il team ha trovato più di 500 esempi di casi in cui il software non è riuscito a gestire un problema e il guasto ha portato a un incidente. Risultati come questi stanno facendo notare il lavoro del gruppo nel settore. Attualmente stanno lavorando a un brevetto per la loro tecnologia di test, e prevede di distribuirlo presto. Idealmente, i ricercatori sperano che le aziende utilizzino questa nuova tecnologia per simulare il problema identificato e risolvere i problemi prima che le auto vengano schierate.

"La sicurezza dei veicoli autonomi è fondamentale per il loro successo sul mercato e nella società, " ha detto Steve Keckler, vicepresidente di Architecture Research per NVIDIA. "Ci aspettiamo che le tecnologie sviluppate dal team di ricerca dell'Illinois rendano più facile per gli ingegneri sviluppare sistemi automobilistici più sicuri a costi inferiori. NVIDIA è entusiasta della nostra collaborazione con l'Illinois ed è lieta di supportare il loro lavoro".

Questa ricerca è stata pubblicata più volte da IEEE (articolo 1, articolo 2, articolo 3).