Barbara Grosz ha la fantasia che ogni volta che un informatico si collega per scrivere un algoritmo o costruire un sistema, un messaggio lampeggerà sullo schermo che chiede, "Hai pensato alle implicazioni etiche di ciò che stai facendo?"

Fino a quel giorno arriva, Grosz, l'Higgins Professor of Natural Sciences presso la Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), sta lavorando per instillare nella prossima generazione di scienziati informatici una mentalità che consideri l'impatto sociale del loro lavoro, e le capacità di ragionamento etico e di comunicazione per farlo.

"L'etica permea la progettazione di quasi tutti i sistemi informatici o algoritmi in circolazione nel mondo, " ha detto Grosz. "Vogliamo educare i nostri studenti a pensare non solo a quali sistemi potrebbero costruire, ma se dovrebbero costruire quei sistemi e come dovrebbero progettare quei sistemi."

In un momento in cui i dipartimenti di informatica di tutto il paese sono alle prese con come ottenere laureati che comprendono l'etica e gli algoritmi, Harvard sta adottando un nuovo approccio.

Nel 2015, Grosz ha progettato un nuovo corso chiamato "Sistemi intelligenti:design e sfide etiche". Esperto di intelligenza artificiale e pioniere nell'elaborazione del linguaggio naturale, Grosz si è rivolto ai colleghi del dipartimento di filosofia di Harvard per co-insegnare il corso. Hanno inserito nel contenuto tecnico del corso una serie di enigmi etici della vita reale e le teorie filosofiche pertinenti necessarie per valutarli. Questo ha costretto gli studenti a confrontarsi con domande che, a differenza della maggior parte dei problemi di informatica, non hanno una risposta ovvia e corretta.

Gli studenti hanno risposto. Il corso ha rapidamente attirato un seguito e al secondo anno 140 persone hanno gareggiato per 30 posti. C'era una richiesta per più corsi di questo tipo, non solo da parte degli studenti, ma anche dai colleghi della facoltà di informatica di Grosz.

"La facoltà ha ritenuto che fosse interessante e importante, ma non avevano esperienza in etica per insegnarla loro stessi, " lei disse.

In risposta, Grosz e la collaboratrice Alison Simmons, il professore di filosofia Samuel H. Wolcott, ha sviluppato un modello che attinge alle competenze del dipartimento di filosofia e lo integra in un elenco crescente di oltre una dozzina di corsi di informatica, dalla programmazione introduttiva alla teoria di livello universitario.

Su iniziativa, soprannominata Etica Incorporata, studenti laureati in filosofia sono abbinati a docenti di informatica. Insieme, esaminano il materiale del corso e decidono su un argomento eticamente ricco che scaturirà naturalmente dal contenuto. Uno studente laureato identifica le letture e sviluppa un caso di studio, attività, e incarichi che rafforzeranno il materiale. I docenti di informatica e filosofia insegnano fianco a fianco quando il materiale Embedded EthiCS viene portato in classe.

Grosz e i suoi colleghi di filosofia sono al centro di un movimento che sperano si diffonda ai programmi di informatica in tutto il paese. L'approccio alla "pedagogia distribuita" di Harvard è diverso da molti programmi universitari che trattano l'etica aggiungendo un corso autonomo che è, più spesso che non, solo un'opzione per la specializzazione in informatica.

"I corsi indipendenti possono essere fantastici, ma possono inviare il messaggio che l'etica è qualcosa a cui pensi dopo aver svolto il tuo "vero" lavoro di informatica, " Simmons ha detto. "Vogliamo inviare il messaggio che il ragionamento etico è parte di ciò che fai come scienziato informatico".

Incorporare l'etica nel curriculum aiuta gli studenti di informatica a vedere come i problemi etici possono sorgere da molti contesti, questioni che vanno dal modo in cui i social network facilitano la diffusione di informazioni false alla censura alle tecniche di apprendimento automatico che potenziano le inferenze statistiche sul lavoro e nel sistema di giustizia penale.

I corsi di intelligenza artificiale e machine learning sono aree ovvie per discussioni etiche, ma Embedded EthiCS ha anche costruito moduli per abbinamenti meno ovvi, come l'algebra applicata.

"Vogliamo davvero che gli studenti si abituino a pensare:come potrebbe sorgere un problema etico in questo o in quel contesto?" ha detto Simmons.

David Parkes, George F. Professore di informatica nella colonia, insegna una vasta classe di laurea su argomenti di economia algoritmica. "Senza questa iniziativa, Avrei faticato a creare le giuste domande etiche relative alle regole per abbinare i mercati, o la scelta degli obiettivi per i sistemi di raccomandazione, " ha detto. "È stata un'esperienza illuminante per convincere gli studenti a riflettere attentamente su questioni etiche".

Grosz ha riconosciuto che può essere una sfida per la facoltà di informatica e per i loro studenti avvolgere la testa attorno a dilemmi etici spesso opachi.

"Gli informatici sono abituati all'esistenza di modi per dimostrare che le risposte ai set di problemi sono corrette o che gli algoritmi sono efficienti, " ha detto. "Finire in una situazione in cui valori diversi portano a compromessi e modi per supportare diverse 'giuste conclusioni' è un cambiamento di mentalità impegnativo. Ma portare questi problemi normativi nella mente del progettista del sistema informatico è cruciale per la società in questo momento".

Jeffrey Behrends, attualmente borsista presso l'Edmond J. Safra Center for Ethics di Harvard, ha co-insegnato con Grosz il corso di design ed etica. Behrends ha affermato che l'esperienza ha rivelato una maggiore armonia tra i due campi di quanto ci si potrebbe aspettare.

"Una volta introdotti gli studenti che non hanno familiarità con la filosofia, si rendono conto che non è un'impresa arcana del tutto indipendente da altri modi di pensare il mondo, " ha detto. "Molti studenti che sono attratti dall'informatica sono anche attratti da alcune metodologie della filosofia, perché sottolineiamo il pensiero rigoroso. Sottolineiamo una metodologia per risolvere i problemi che non sembra troppo dissimile da alcune delle metodologie nella risoluzione dei problemi in informatica."

Il modello Embedded EthiCS ha attirato l'interesse delle università e delle aziende di tutto il paese. Recentemente, esperti di oltre 20 istituzioni si sono riuniti ad Harvard per un workshop sulle sfide e le migliori pratiche per l'integrazione dell'etica nei curricula di informatica. Maria Gray, ricercatore senior presso Microsoft Research (e ricercatore presso il Berkman Klein Center for Internet and Society di Harvard), che ha contribuito a convocare l'assemblea, detto che oltre a doti tecniche impeccabili, i datori di lavoro sono sempre più alla ricerca di persone che comprendano la necessità di creare una tecnologia accessibile e socialmente responsabile.

"La nostra sfida nell'industria è aiutare i ricercatori e i professionisti a non vedere l'etica come una scatola che deve essere spuntata alla fine, ma piuttosto pensare a queste cose fin dall'inizio di un progetto, " ha detto il grigio.

Queste preoccupazioni hanno recentemente ispirato l'Association for Computing Machinery (ACM), la più grande società informatica scientifica ed educativa del mondo, aggiornare il proprio codice etico per la prima volta dal 1992.

Nella speranza di diffondere ampiamente il concetto di Embedded EthiCS nel panorama dell'informatica, Grosz e colleghi hanno scritto un articolo da pubblicare sulla rivista Comunicazioni dell'ACM e ha lanciato un sito Web per fungere da repository open source dei moduli dei corsi di maggior successo.

Prevedono un cambiamento culturale che porti a una nuova generazione di professionisti dell'informatica con una mentalità etica.

"Nel nostro mondo dei sogni, il successo porterà a responsabili politici meglio informati e nuovi modelli di organizzazione aziendale che integrano l'etica in tutte le fasi della progettazione e della leadership aziendale, "Berends dice.

L'esperimento ha anche portato a conversazioni interessanti oltre il regno dell'informatica.

"Lo abbiamo fatto nel contesto della tecnologia, ma incorporare l'etica in questo modo è importante per ogni disciplina scientifica che sta diffondendo le cose nel mondo, "Grosz ha detto. "Per farlo, avremo bisogno di far crescere una generazione di filosofi che riflettano sui modi in cui possono assumere l'etica filosofica e il pensiero normativo, e portarlo a tutta la scienza e la tecnologia."

Moduli di corso progettati con cura

Al centro del programma Embedded EthiCS sono progettati con cura, moduli specifici del corso, sviluppato in collaborazione da docenti di informatica e filosofia.

Un modulo creato per un corso tenuto dal professor Finale Doshi-Velez chiede agli studenti di confrontarsi con domande su come i modelli di apprendimento automatico possono essere discriminatori, e come tale discriminazione può essere ridotta. Una lezione introduttiva definisce un quadro filosofico di cosa sia la discriminazione, compresi i concetti di trattamento e impatto disparati. Gli studenti imparano come l'eliminazione della discriminazione nell'apprendimento automatico richieda qualcosa di più della semplice riduzione dei pregiudizi in senso tecnico. Anche impostare un compito socialmente buono potrebbe non essere sufficiente per ridurre la discriminazione, poiché l'apprendimento automatico si basa su correlazioni utili in modo predittivo e tali correlazioni a volte provocano una maggiore disuguaglianza tra i gruppi.

Il modulo illumina le ramificazioni e le potenziali limitazioni dell'utilizzo di una definizione di impatto disparata per identificare la discriminazione. Introduce anche il lavoro tecnico informatico sulla discriminazione:criteri di equità statistica. Un esercizio in classe si concentra su un caso in cui un algoritmo che prevede il successo dei candidati di lavoro nelle posizioni di vendita presso un importante rivenditore si traduce in un minor numero di afroamericani raccomandati per le posizioni rispetto ai candidati bianchi.

Un compito fuori classe chiede agli studenti di attingere a queste basi per affrontare un problema etico concreto affrontato dagli informatici che lavorano (cioè, ingegneri informatici che lavorano per il Dipartimento del Lavoro). Il compito offre agli studenti l'opportunità di applicare il materiale a un problema del mondo reale del tipo che potrebbero affrontare nella loro carriera, e chiede loro di articolare e difendere il loro approccio alla risoluzione del problema.