Medici che prendono decisioni di vita o di morte sui trapianti di organi, trattamenti contro il cancro o interventi chirurgici al cuore in genere non si preoccupano molto di come l'intelligenza artificiale potrebbe aiutarli. Ed è così che i ricercatori della Carnegie Mellon University affermano che gli strumenti di intelligenza artificiale dovrebbero essere progettati, in modo che i medici non debbano pensarci.

Un chirurgo potrebbe non sentire mai il bisogno di chiedere consiglio a un'intelligenza artificiale, tanto meno permettergli di prendere una decisione clinica per loro, disse John Zimmerman, il Professore di Intelligenza Artificiale e interazione uomo-computer della famiglia Tang presso l'Istituto di interazione uomo-computer della CMU (HCII). Ma un'intelligenza artificiale potrebbe guidare le decisioni se fosse incorporata nelle routine decisionali già utilizzate dal team clinico, fornendo previsioni e valutazioni generate dall'intelligenza artificiale come parte del mix complessivo di informazioni.

Zimmerman e i suoi colleghi chiamano questo approccio "IA insignificante".

"L'idea è che l'IA dovrebbe essere insignificante, nel senso che non devi pensarci e non si mette in mezzo, " ha detto Zimmerman. "L'elettricità è completamente insignificante fino a quando non ce l'hai."

Qian Yang, un dottorato di ricerca studente dell'HCII, affronterà come l'approccio Unremarkable AI ha guidato la progettazione di uno strumento di supporto alle decisioni cliniche (DST) al CHI 2019, la conferenza dell'Associazione per le macchine informatiche sui fattori umani nei sistemi informatici, 4-9 maggio a Glasgow, Scozia.

Yang, insieme a Zimmerman e Aaron Steinfeld, professore associato di ricerca presso l'HCII e il Robotics Institute, stanno lavorando con i ricercatori biomedici della Cornell University e del Language Technologies Institute della CMU su un DST per aiutare i medici a valutare i pazienti cardiaci per il trattamento con un dispositivo di assistenza ventricolare (VAD). Questa pompa impiantabile aiuta i cuori malati nei pazienti che non possono ricevere trapianti di cuore, ma molti riceventi muoiono poco dopo l'impianto. L'ora legale in fase di sviluppo utilizza metodi di apprendimento automatico per analizzare migliaia di casi e calcolare la probabilità che un individuo possa trarne vantaggio.

I DST sono stati sviluppati per aiutare a diagnosticare o pianificare il trattamento per una serie di condizioni mediche e procedure chirurgiche, ma la maggior parte non riesce a passare dal laboratorio alla pratica clinica e cade in disuso.

"Tutti presumono che tu sappia che hai bisogno di aiuto, " ha detto Zimmerman. Spesso affrontano la resistenza dei medici, molti dei quali non pensano di aver bisogno di aiuto, o vedere l'ora legale come una tecnologia progettata per sostituirli.

Yang ha utilizzato i principi dell'AI insignificanti per progettare il modo in cui il team clinico avrebbe interagito con l'ora legale per i VAD. Questi team includono medici di medio livello, come infermieri, assistenti sociali e coordinatori VAD, che usano abitualmente i computer; e chirurghi e cardiologi, che apprezzano i consigli dei loro colleghi rispetto al supporto computazionale.

Il momento naturale per incorporare le previsioni del DST è durante le riunioni multidisciplinari di valutazione del paziente, ha detto Yang. Sebbene i medici prendano la decisione definitiva su quando o se impiantare un VAD, l'intero team è spesso presente a queste riunioni e vengono utilizzati i computer.

Il suo design incorpora automaticamente le previsioni sull'ora legale nei vetrini preparati per ciascun paziente. Nella maggior parte dei casi, le informazioni sull'ora legale non saranno significative, Steinfeld ha suggerito, ma per alcuni pazienti, o in determinati punti critici per ogni paziente, l'ora legale potrebbe fornire informazioni che richiedono attenzione.

Sebbene l'ora legale stessa sia ancora in fase di sviluppo, i ricercatori hanno testato questo design di interazione in tre ospedali che eseguono interventi di chirurgia VAD, con diapositive DST-enhanced presentate per pazienti simulati.

"Ai livelli medi - il personale di supporto - è piaciuto molto, "Yang ha detto, perché ha migliorato il loro contributo e li ha aiutati a essere più attivi nella discussione. La reazione del medico è stata meno entusiasta, riflettendo lo scetticismo sui DST e la convinzione che fosse impossibile valutare totalmente l'interazione senza un sistema pienamente funzionante e pazienti reali.

Ma Yang ha detto che i medici non hanno mostrato lo stesso atteggiamento difensivo e la stessa sensazione di essere sostituiti dalla tecnologia tipicamente associata ai DST. Hanno anche riconosciuto che l'ora legale potrebbe informare le loro decisioni.

"I sistemi precedenti consistevano nel dirti cosa fare, " Zimmerman ha detto. "Non stiamo sostituendo il giudizio umano. Stiamo cercando di dare agli umani capacità disumane".

"E per farlo dobbiamo mantenere il processo decisionale umano, "Steinfeld ha aggiunto.