Credito:Pixabay/CC0 di dominio pubblico
Mentre le tecnologie basate sui dati trasformano il mondo e l'intelligenza artificiale solleva domande su pregiudizi, privacy e trasparenza, Suresh Venkatasubramanian offre la sua esperienza per aiutare a creare guardrail per garantire che le tecnologie siano sviluppate e distribuite in modo responsabile.
"Dobbiamo proteggere il popolo americano e assicurarci che la tecnologia venga utilizzata in modi che rafforzino i nostri valori più alti", ha affermato Venkatasubramanian, professore di informatica e scienza dei dati alla Brown University.
Sulla scia di un incarico di 15 mesi recentemente concluso come consulente dell'Ufficio per la politica scientifica e tecnologica della Casa Bianca, Venkatasubramanian è tornato a Washington, DC, martedì 4 ottobre, per la presentazione di "A Blueprint for an AI Bill of Rights:Making Automated Systems Work for the American People", durante una cerimonia alla Casa Bianca.
Venkatasubramanian ha affermato che il progetto rappresenta il culmine di 14 mesi di ricerca e collaborazione guidati dall'Office of Science and Technology Policy con partner del governo federale, del mondo accademico, della società civile, del settore privato e delle comunità di tutto il paese. Tale collaborazione ha informato lo sviluppo della prima guida nazionale in assoluto incentrata sull'uso e la diffusione di tecnologie automatizzate che hanno il potenziale per incidere sui diritti, le opportunità e l'accesso ai servizi delle persone.
"Come nazione, lo abbiamo già fatto con la privacy dei consumatori e la Carta dei diritti del paziente, ad esempio", ha affermato Venkatasubramanian. "I diritti civili e le libertà civili sono un'istituzione sacra nel nostro paese... Tutti i principali paesi e blocchi di paesi del mondo stanno pensando a cosa serve per governare i sistemi automatizzati e tenere conto dei pregiudizi, ma gli Stati Uniti no, quindi questo è qualcosa che è passato molto tempo."
Venkatasubramanian è un ricercatore ed educatore immerso nello sviluppo e nell'impatto della tecnologia e dell'intelligenza artificiale. L'opportunità di fornire consulenza a livello nazionale è in linea non solo con la sua esperienza, ma anche con le sue preoccupazioni sull'uso etico della tecnologia e sui pregiudizi incorporati nella progettazione di alcuni strumenti di intelligenza artificiale, che possono infondere pregiudizi passati e perpetuare la discriminazione.
In occasione dell'annuncio dell'AI Bill of Rights, Venkatasubramanian, vicedirettore della Data Science Initiative di Brown, ha condiviso intuizioni e prospettive sul suo periodo alla Casa Bianca, sul suo approccio umanistico all'informatica e su ciò che non vede l'ora di realizzare a Marrone negli anni a venire.
D:Perché i "guardrail" relativi allo sviluppo e all'uso dell'IA sono una questione di importanza nazionale?
Riconosciamo che ci sono molti potenziali vantaggi dall'automazione e dalla tecnologia basata sui dati:tutte queste promesse di ciò che potrebbe essere. Ma vediamo anche che le promesse spesso tendono a non pagare. Ad esempio, possiamo provare a costruire un sistema di intelligenza artificiale per assicurarci di non poter discriminare nel sistema di giustizia penale, ma i sistemi che risucchiano i dati da precedenti arresti sono irrevocabilmente contaminati dalla storia dell'ingiustizia razziale nel sistema di giustizia penale. E poi implementato su larga scala, questa macchia si diffonde. Tutti i dati immessi in un sistema amplificheranno solo le distorsioni nei dati, a meno che non ci siano guardrail rigorosi e accuratamente progettati.
Questi sistemi tecnologici hanno un impatto sui nostri diritti civili e libertà civili rispetto a tutto:credito, opportunità di ottenere l'approvazione per un mutuo e possedere terreni, assistenza all'infanzia, accesso ai benefici, essere assunti per un lavoro:tutte opportunità di avanzamento. Quando mettiamo in atto questi sistemi, dobbiamo assicurarci che siano coerenti con i valori che riteniamo dovrebbero avere e che siano costruiti in modo trasparente e responsabile nei confronti del pubblico. Non è qualcosa su cui possiamo dare uno schiaffo dopo il fatto.
D:In qualità di informatico, perché sei preoccupato per l'impatto della tecnologia sulla società?
Ho studiato questi problemi per quasi un decennio, pensando a cosa accadrà dopo e come sarà il mondo quando gli algoritmi saranno onnipresenti. Dieci anni fa, una preoccupazione che probabilmente avremmo avuto era se possiamo fidarci che questi sistemi funzionino come dovrebbero e come sappiamo che questi sistemi sono responsabili nei confronti del pubblico e dei nostri rappresentanti.
Che ti piaccia o no, la tecnologia è qui e sta già influenzando tutto ciò che ti modella. Stai, a tua insaputa, adattando il modo in cui vivi e funzioni per renderti più leggibile alla tecnologia. Ti stai rendendo leggibile dalla macchina, piuttosto che rendere le macchine leggibili dall'uomo. Se non prestiamo attenzione a questo, la tecnologia guiderà il modo in cui viviamo come società piuttosto che la società, creando una tecnologia che ci aiuta a prosperare ed essere noi stessi. Non mi piace spaventare le persone, ma è vero, ed è importante.
D:L'IA è un bene o un male?
Nessuno dei due, davvero. Non è la tecnologia ad essere buona o cattiva, l'IA o no. È l'impatto, i danni, di cui dovremmo preoccuparci. Un foglio di calcolo Excel che produce un punteggio che confina qualcuno alla detenzione prima di essere processato è pessimo quanto un sofisticato sistema di intelligenza artificiale che fa la stessa cosa. E un algoritmo di deep learning che può aiutare a migliorare i raccolti è sorprendente e meraviglioso. Ecco perché l'AI Bill of Rights si concentra sull'impatto, sui diritti delle persone, sulle opportunità e sull'accesso ai servizi, piuttosto che sulla tecnologia stessa, che cambia ed evolve rapidamente.
D:Cosa farà il progetto per una Carta dei diritti AI?
Pensa ai farmaci da prescrizione, per esempio. Non devi preoccuparti che il farmaco che stai assumendo non sia stato testato, perché la FDA non lo lascerà entrare sul mercato fino a quando non sarà passato attraverso test rigorosi. Allo stesso modo, siamo fiduciosi che le nostre auto funzioneranno e che i richiami regolari avvengano ogni volta che la National Highway Traffic Safety Administration scopre un problema; e siamo fiduciosi che i nostri aerei funzionino e che ogni nuovo tipo di jet sia sottoposto a rigorosi test prima di essere pilotato. Abbiamo molti esempi da trarre da cui non permettiamo che la nuova tecnologia venga utilizzata sulle persone senza prima verificarla. Possiamo considerare questo come una guida per ciò che riteniamo importante e la tecnologia riguarda tutti.
Questa Carta dei diritti AI è un progetto che va oltre i principi. Fornisce consulenza praticabile agli sviluppatori, alla società civile, agli avvocati, alle società, ai governi locali e ai governi statali. Ci sono varie leve per farlo avanzare:regolamentazione, pratiche del settore, indicazioni su ciò che i governi costruiranno o non costruiranno. Non c'è proiettile d'argento qui, ma tutte le leve sono a portata di mano. Ci vorrà l'intera società per portare avanti questo lavoro.
D:In che modo la tua esperienza come consulente della Casa Bianca ha avuto un impatto su di te?
Stava cambiando la vita. Il mio cervello ora funziona in modi che non posso e non voglio annullare. Penso costantemente ai ponti tra ricerca e innovazione, società e politica. Come Paese e come ricercatori, stiamo ancora venendo a patti con questo. Per molto tempo abbiamo pensato alla tecnologia come a una cosa che usiamo per migliorare la vita. Ma non abbiamo familiarità con la tecnologia come una cosa che cambia il nostro mondo. Cercare di fare politica per un intero paese e, in qualche modo, per il mondo intero, perché gli Stati Uniti sono un leader, è impegnativo perché ci sono così tanti interessi in competizione che devi bilanciare.
Durante il mio periodo al governo, sono rimasto colpito dalla complessità e dalla sottigliezza di questi problemi in diversi domini:ciò che ha senso quando si pensa agli strumenti diagnostici sanitari non funziona davvero se si pensa agli strumenti utilizzati in aula. Ho un apprezzamento più profondo per quante persone dedicate ci sono all'interno del governo che vogliono fare la differenza e hanno bisogno di aiuto e larghezza di banda per farlo.
Una cosa che ho capito negli anni in cui ho lavorato negli spazi politici è che è fondamentale aiutare i responsabili politici a capire che la tecnologia non è una scatola nera, è malleabile e in evoluzione, e aiuta a plasmare le politiche in modi che potremmo non aspettare. Le scelte di progettazione tecnologica sono scelte politiche, in tanti modi. Fare i conti con il modo in cui tecnologia e politica si influenzano a vicenda richiede molta istruzione, sia per i tecnologi che per i responsabili politici. + Esplora ulteriormente
