Credito:Sigismondo von Dobschütz/Wikimedia Commons, CC BY-SA 3.0
I ricercatori dell'Università di Toronto e dell'Università di Cambridge stanno esaminando i modi in cui l'età, il pregiudizio nei confronti degli individui basato sull'età, può essere codificato in tecnologie come l'intelligenza artificiale, che molti di noi incontrano quotidianamente.
Questo pregiudizio legato all'età nell'IA, noto anche come "ageismo digitale", è esplorato in un nuovo documento guidato da Charlene Chu, una scienziata affiliata presso il braccio di ricerca KITE del Toronto Rehabilitation Institute, parte della University Health Network (UHN), e un assistente professore presso la Facoltà di Infermieristica Lawrence S. Bloomberg.
L'articolo è stato recentemente pubblicato su The Gerontologist .
"La pandemia di COVID-19 ha accresciuto la nostra consapevolezza di quanto la nostra società dipenda dalla tecnologia", afferma Chu. "Un numero enorme di anziani si sta rivolgendo alla tecnologia nella loro vita quotidiana, il che ha creato un senso di urgenza per i ricercatori nel cercare di comprendere l'ageismo digitale e i rischi e i danni associati ai pregiudizi dell'IA".
Chu e il suo gruppo di ricerca composto da studiosi legali, informatici, filosofi e scienziati sociali in bioetica e gerontologia, osservano che gli stereotipi sono profondamente radicati negli algoritmi di intelligenza artificiale, con ricerche recenti incentrate su esempi di pregiudizi razziali e di genere. Le soluzioni per affrontare i pregiudizi dell'IA, tuttavia, non sono semplici, afferma Chu. Lei e il suo team suggeriscono che ci sono una serie di "cicli di ingiustizia" che si verificano nello sviluppo tecnologico, dalla progettazione nella fase iniziale al test e all'implementazione.
"Cumulativamente, questi cicli producono un pregiudizio implicito che è integrato nella funzione della tecnologia che esclude gli anziani in modo sproporzionato", afferma.
Rebecca Biason di Bloomberg Nursing ha recentemente parlato con Chu del suo lavoro e delle implicazioni dell'età digitale per gli anziani.
In che modo la tecnologia o le app potrebbero perpetuare l'età digitale?
Esistono diversi modi in cui la tecnologia basata sull'intelligenza artificiale può assumere pregiudizi legati all'età:alcuni sono più ovvi di altri. La maggior parte delle app create per gli anziani tendono a concentrarsi sulle malattie croniche e sulla gestione dell'assistenza sanitaria e sono raramente associate al piacere o al tempo libero. Invece, la tecnologia creata per gli anziani tende a vederli con una lente biomedica, generando una tecnologia incentrata su un'esigenza relativa alla salute.
Questa rappresentazione dell'età degli anziani si riversa nel design della tecnologia. Gli aspetti normali dell'invecchiamento, come le differenze nella funzione motoria o nella percezione, non vengono presi in considerazione. Questo è uno dei "cicli di ingiustizia" che perpetua il pregiudizio relativo all'età descritto nel mio articolo che è alla base dell'esclusione delle voci e dei dati degli anziani.
In che modo l'esclusione degli anziani contribuisce all'età digitale?
I dati utilizzati per costruire vari modelli e algoritmi influiscono successivamente sulle prestazioni dell'algoritmo. Specifico del pregiudizio legato all'età, gli anziani sono il gruppo in più rapida crescita di individui che utilizzano la tecnologia, ma gran parte dei dati utilizzati per costruire sistemi di intelligenza artificiale si basano su persone più giovani. Questo, a sua volta, genera app e tecnologie che non sono progettate per gli anziani, quindi non le utilizzano.
Questa discrepanza nel design e nella tecnologia contribuisce alla mancanza di dati dagli anziani, il che amplifica la loro esclusione lungo tutta la pipeline di creazione della tecnologia.
L'età è il pregiudizio socialmente più accettato nonostante sia un'eventualità per tutti noi. Man mano che la demografia delle popolazioni inizia a cambiare, sempre più anziani si rivolgeranno a tecnologie che non sono progettate per loro.
Parte del nostro lavoro futuro consiste nell'illustrare efficacemente il modo in cui l'ageismo incorporato è all'interno dell'IA e nello sviluppo tecnologico e suggerire modi per mitigarlo.
Quali sono alcuni dei tuoi primi consigli per affrontare l'età digitale per gli anziani?
La consapevolezza dell'età digitale è il primo passo ed è fondamentale per andare avanti. L'età si interseca con altre dimensioni della vulnerabilità e dovrebbe essere affrontata. Una raccomandazione strutturale è quella di discutere la necessità di una co-progettazione interdisciplinare, ovvero includere gli anziani nella progettazione tecnologica dall'inizio e non alla fine, e set di dati che siano più rappresentativi degli anziani.
Una cosa che il mio team ha fatto è stata esaminare l'inventario globale delle linee guida sull'etica dell'IA, un repository che compila documenti di raccomandazione su come i sistemi di intelligenza artificiale possono condurre un processo decisionale automatizzato etico. Molte di queste linee guida hanno evidenziato l'equità come un principio etico fondamentale che governa, così come la necessità di una riduzione dei pregiudizi. Di questi quasi 150 documenti creati da organizzazioni consolidate, governi e gruppi internazionali, abbiamo trovato pochissime menzioni di età, pregiudizi legati all'età o età rispetto a pregiudizi razziali o legati al sesso.
Ora, il mio team sta cercando di determinare le implicazioni sociali ed etiche, nonché il grado di danno attualmente arrecato rispetto all'età digitale. Il lavoro è fondamentale per portare l'attenzione su questo problema mentre ci siamo proposti di definire il problema.