Un team di ricercatori dell'Università di Hartford, l'Università del Connecticut, e il Max Planck Institute for Intelligent Systems hanno recentemente proposto un caso supportato, paradigma di comportamento basato su principi per garantire il comportamento etico delle macchine autonome. La loro carta, pubblicato in Atti dell'IEEE , sostiene che il comportamento eticamente significativo dei sistemi autonomi dovrebbe essere guidato da principi etici espliciti, determinato attraverso un consenso di etici.

"Quest'anno ricorre il 50° anniversario del film 2001:Odissea nello spazio , "Michele Anderson, uno dei ricercatori che hanno condotto lo studio ha detto a TechXplore. "Mentre leggo The Making of 2001:Odissea nello spazio Al cambio di secolo, mi colpì il fatto che gran parte delle capacità di HAL avesse perso la sua aura di fantascienza e fosse sul punto di realizzarsi. Mi ha anche colpito che avessero sbagliato così tanto l'etica:se HAL era dietro l'angolo, era tempo di ottenere l'etica giusta."

Anderson e i suoi colleghi hanno lavorato alla scoperta di principi etici che possono essere incorporati in macchine funzionanti in modo autonomo, come parte di un progetto chiamato Machine Ethics. Credono che il comportamento dell'intelligenza artificiale debba essere guidato da principi etici. Questi principi, determinato da un consenso di eticisti, dovrebbe non solo aiutare a garantire il comportamento etico di sistemi complessi e dinamici, ma servono anche come base per giustificare questo comportamento.

I ricercatori hanno sviluppato un estensibile, paradigma generale di comportamento basato su casi e principi chiamato CPB. In questo paradigma, un sistema autonomo decide la sua prossima azione utilizzando un principio astratto dai casi per i quali gli etici hanno concordato l'azione corretta da intraprendere.

"CPB utilizza l'apprendimento automatico per astrarre un principio di preferenza etica dalle caratteristiche eticamente rilevanti di casi particolari di dilemmi etici, dove la scelta eticamente preferibile è chiara, " ha spiegato Anderson. "Un sistema può utilizzare quel principio per determinare l'azione eticamente preferibile in un dato momento".

Il paradigma rappresenta esplicitamente questi principi in modo che possano anche aiutare a giustificare le azioni di un sistema autonomo. In altre parole, CPB può aiutare a comprendere meglio il comportamento di un robot, offrendo spiegazioni logiche del perché ha scelto di agire in un modo particolare.

"Quando stavamo cercando di determinare come il robot avrebbe saputo che si trovava in una situazione in cui la sua etica avrebbe dovuto intervenire, ci siamo resi conto che era sempre in questo stato:l'etica non è semplicemente non scegliere azioni scorrette, si tratta di scegliere quale di tutte le sue azioni è eticamente preferibile nella data situazione, " ha detto Anderson. "Dato questo, CPB si impegna a determinare azioni eticamente preferibili qualunque sia la situazione, e lo fa ogni volta che la situazione cambia".

L'obiettivo finale dello studio era determinare le caratteristiche e i doveri eticamente rilevanti nel campo dell'assistenza agli anziani, identificare i principi che possono guidare il comportamento dei robot per l'assistenza agli anziani. Però, lo stesso paradigma può essere applicato anche a robot operanti in altri domini. Nel futuro, potrebbe anche fornire una guida etica per sistemi diversi dai robot, come gli agenti sanitari virtuali.

"Noi sosteniamo un approccio di dovere prima facie all'etica, dove qualsiasi dovere potrebbe prevalere su un altro a seconda della situazione, " ha detto Anderson. "In altre parole, non c'è una gerarchia rigida come c'è, dire, nelle leggi di Asimov. Nel futuro, crediamo che il nostro schema di rappresentazione caratteristica/dovere sarà utile per catturare l'essenza di tutti i dilemmi etici".

Il contributo di Vincent Berenz al progetto, Giocoso, recentemente pubblicato in IEEE Robotica e automazione , consente un comportamento reattivo e interrompibile nei robot. Tale comportamento è fondamentale se il robot deve rispondere adeguatamente alle preoccupazioni etiche in costante cambiamento.

"Crediamo che gli esperti di etica acquisiscano competenze che derivano dal pensare a lungo e intensamente all'etica, " ha detto Anderson. "Non stiamo dicendo che si comportino necessariamente meglio se stessi, essere etici è difficile per tutti, ma che hanno una migliore comprensione di ciò che dovrebbe essere fatto e sono in grado di difendere questi giudizi meglio dei laici. Un pensiero così attento applicato a casi semplici può essere utile per prendere decisioni su casi più difficili che presentano le stesse caratteristiche eticamente rilevanti".

Nel futuro, paradigmi come CPB potrebbero garantire che i robot e le macchine intelligenti prendano decisioni etiche coerenti, consentendo anche agli umani di comprendere meglio le loro scelte. I ricercatori stanno ora lavorando per ampliare la portata del loro lavoro, per affrontare una più ampia varietà di problemi etici.

"Stiamo pianificando di estendere la nostra ricerca, aggiungendo più azioni e considerando caratteristiche più eticamente rilevanti al fine di sviluppare un principio etico che può essere utilizzato per dirigere il comportamento di tutti i futuri robot per l'assistenza agli anziani, " ha detto Anderson. "Stiamo testando queste nuove idee su un robot PAL Robotics TIAGo."

© 2018 Science X Network