Gli algoritmi stanno diventando comuni. Possono determinare prospettive di lavoro, sicurezza finanziaria e altro ancora. L'uso di algoritmi può essere controverso, ad esempio robodebt, come è diventato noto il sistema di conformità del benessere online difettoso del governo australiano.

Gli algoritmi vengono sempre più utilizzati per prendere decisioni che hanno un impatto duraturo sulla nostra vita attuale e futura.

Alcuni dei maggiori impatti del processo decisionale algoritmico sono nell'istruzione. Se hai qualcosa a che fare con una scuola o un'università australiana, a un certo punto un algoritmo prenderà una decisione che conta per te.

Quindi che tipo di decisioni potrebbero coinvolgere gli algoritmi? Alcune decisioni riguarderanno la prossima domanda a cui gli studenti delle scuole devono rispondere in un test, come la fornitura online di NAPLAN. Alcuni algoritmi supportano il processo decisionale umano nelle università, come identificare gli studenti a rischio di bocciatura in una materia. Altri prendono l'umano fuori dal giro, come alcune forme di supervisione degli esami online.

Come funzionano gli algoritmi?

Nonostante il loro impatto pervasivo sulle nostre vite, è spesso difficile capire come funzionano gli algoritmi, perché sono stati progettati e perché vengono utilizzati. Poiché gli algoritmi diventano una parte fondamentale del processo decisionale nell'istruzione e in molti altri aspetti della nostra vita, le persone devono sapere due cose:

1. come funzionano gli algoritmi
2. i tipi di compromessi che vengono effettuati nel processo decisionale utilizzando algoritmi.

Nella ricerca per esplorare questi due problemi, abbiamo sviluppato un gioco di algoritmi che utilizza metodologie partecipative per coinvolgere diversi stakeholder nella ricerca. Il processo diventa una forma di sperimentazione collettiva per incoraggiare nuove prospettive e intuizioni su un problema.

Il nostro gioco di algoritmi si basa sulla controversia sull'esame nel Regno Unito nel 2020. Durante i blocchi COVID-19, è stato utilizzato un algoritmo per determinare i voti degli studenti che desiderano frequentare l'università. L'algoritmo prevedeva voti per alcuni studenti molto più bassi del previsto. Di fronte alle proteste, l'algoritmo è stato infine demolito.

Gioco di colpe ridicolo:incolpa l'umano, non l'algoritmo—" Il premier Boris Johnson incolpa l'"algoritmo mutante" per il fiasco dell'esame di scuola superiore nel Regno Unito" https://t.co/6z49scUYHd cc @zeynep @soizicpenicaud @HenriVerdier

— Martin Tisné (@martintisne) 26 agosto 2020

Quest'anno il nostro team interdisciplinare ha co-progettato il gioco dell'algoritmo dell'esame del Regno Unito in una serie di due workshop e più incontri. I nostri workshop includevano studenti, data scientist, esperti di etica e scienziati sociali. Tali prospettive interdisciplinari sono vitali per comprendere la gamma di implicazioni sociali, etiche e tecniche degli algoritmi nell'istruzione.

Gli algoritmi fanno compromessi, quindi è necessaria trasparenza

L'esempio del Regno Unito mette in evidenza le questioni chiave relative all'utilizzo di algoritmi nella società, comprese le questioni di trasparenza e pregiudizi nei dati. Questi problemi sono importanti ovunque, inclusa l'Australia.

Abbiamo progettato il gioco dell'algoritmo per aiutare le persone a sviluppare gli strumenti per avere più voce in capitolo nel plasmare il mondo che gli algoritmi stanno creando. I "giochi" di algoritmi invitano le persone a giocare e ad apprendere i parametri di come funziona un algoritmo. Gli esempi includono i giochi che mostrano alle persone come vengono utilizzati gli algoritmi nelle condanne penali o possono aiutare a prevedere il rischio di incendio negli edifici

C'è una crescente consapevolezza pubblica che gli algoritmi, in particolare quelli utilizzati nelle forme di intelligenza artificiale, devono essere intesi come fonte di problemi di equità. Ma mentre tutti possono avere una comprensione vernacolare di ciò che è giusto o ingiusto, quando vengono utilizzati algoritmi sono coinvolti numerosi compromessi.

Nel nostro gioco di algoritmi, portiamo le persone attraverso una serie di problemi in cui la soluzione a un problema di equità ne introduce semplicemente uno nuovo. Ad esempio, l'algoritmo del Regno Unito non ha funzionato molto bene per prevedere i voti degli studenti nelle scuole in cui un numero minore di studenti ha frequentato determinate materie. Questo era ingiusto per questi studenti.

La soluzione significava che l'algoritmo non veniva utilizzato per queste scuole spesso molto privilegiate. Questi studenti hanno quindi ricevuto i voti previsti dai loro insegnanti. Ma questi voti erano per lo più superiori ai voti generati dall'algoritmo ricevuti dagli studenti nelle scuole più grandi, che erano più spesso scuole globali del governo. Quindi questo significava che la decisione era giusta per gli studenti delle scuole piccole, ingiusta per quelli delle scuole più grandi che avevano voti assegnati dall'algoritmo.

Quello che cerchiamo di dimostrare nel nostro gioco è che non è possibile avere un risultato perfetto. E che né gli esseri umani né gli algoritmi faranno una serie di scelte giuste per tutti. Ciò significa che dobbiamo prendere decisioni su quali valori contano quando utilizziamo algoritmi.

Il pubblico deve avere voce in capitolo per bilanciare il potere di EdTech

Mentre il nostro gioco di algoritmi si concentra sull'uso di un algoritmo sviluppato da un governo, gli algoritmi nell'istruzione sono comunemente introdotti come parte della tecnologia educativa. Il settore EdTech si sta espandendo rapidamente in Australia. Le aziende cercano di dominare tutte le fasi dell'istruzione:iscrizione, progettazione dell'apprendimento, esperienza di apprendimento e apprendimento permanente.

Accanto a questi sviluppi, COVID-19 ha accelerato l'uso del processo decisionale algoritmico nell'istruzione e oltre.

Mentre queste innovazioni aprono incredibili possibilità, gli algoritmi portano con sé anche una serie di sfide che dobbiamo affrontare come società. Esempi come l'algoritmo dell'esame del Regno Unito ci espongono a come funzionano tali algoritmi e al tipo di decisioni che devono essere prese durante la loro progettazione. Siamo quindi costretti a rispondere a domande profonde su quali valori sceglieremo di dare la priorità e quale tabella di marcia per la ricerca portiamo avanti.

Le nostre scelte daranno forma al nostro futuro e al futuro delle generazioni a venire.