L'attività online è sempre più influenzata da raccomandazioni algoritmiche basate sui dati raccolti sul comportamento dei consumatori da aziende che sono spesso riluttanti a rivelare quali dati stanno raccogliendo o come li stanno utilizzando.

I ricercatori dell'Università di Auckland hanno cercato di saperne di più su come funzionano questi algoritmi analizzando i termini di utilizzo e le politiche sulla privacy di Spotify e Tinder. La ricerca, pubblicata sul Journal of the Royal Society of New Zealand , è stato diretto dal Dr. Fabio Morreale, Scuola di Musica, e Matt Bartlett e Gauri Prabhakar, Scuola di Giurisprudenza.

Le aziende che raccolgono e utilizzano i dati dei consumatori (di solito per il proprio guadagno finanziario) sono particolarmente resistenti al controllo accademico, hanno scoperto i ricercatori. "Nonostante la loro potente influenza, ci sono pochi dettagli concreti su come funzionano esattamente questi algoritmi, quindi abbiamo dovuto usare modi creativi per scoprirlo", afferma il dottor Morreale.

Il team ha esaminato i documenti legali di Tinder e Spotify perché entrambe le piattaforme si basano su algoritmi di raccomandazione che spingono gli utenti ad ascoltare canzoni specifiche o ad abbinarsi romanticamente con un altro utente. "Sono stati ampiamente trascurati rispetto a società tecnologiche più grandi come Facebook, Google, Tik Tok ecc. che hanno dovuto affrontare un maggiore controllo", afferma. "Le persone potrebbero pensare di essere più benigne, ma sono comunque molto influenti."

I ricercatori hanno analizzato le iterazioni dei documenti legali negli ultimi dieci anni. Le aziende sono sempre più obbligate a far sapere agli utenti quali dati vengono raccolti, ma la lunghezza e la lingua dei documenti legali non possono essere descritte come di facile utilizzo.

"Tendono verso il legalistico e il vago, inibendo la capacità degli estranei di esaminare correttamente gli algoritmi delle aziende e il loro rapporto con gli utenti. Rende difficile per i ricercatori accademici e sicuramente per l'utente medio", afferma il dottor Morreale. La loro ricerca ha rivelato diverse intuizioni. Le politiche sulla privacy di Spotify, ad esempio, mostrano che l'azienda raccoglie molte più informazioni personali rispetto ai suoi primi anni, inclusi nuovi tipi di dati.

"Nell'iterazione del 2012 della sua politica sulla privacy, le pratiche sui dati di Spotify includevano solo informazioni di base:i brani che un utente riproduce, le playlist create da un utente e informazioni personali di base come l'indirizzo e-mail, la password, l'età, il sesso e la posizione dell'utente", afferma Dott. Morreale. Dopo diverse iterazioni dell'informativa sulla privacy, l'attuale politica del 2021 consente all'azienda di raccogliere le foto degli utenti, i dati sulla posizione, i dati vocali, i dati sui suoni di sottofondo e altri tipi di informazioni personali.

L'evoluzione dei termini di utilizzo di Spotify ora afferma anche che "il contenuto che visualizzi, inclusa la sua selezione e posizionamento, può essere influenzato da considerazioni commerciali, inclusi accordi con terze parti". Ciò offre ampio spazio all'azienda per evidenziare legalmente i contenuti a un utente specifico sulla base di un accordo commerciale, afferma il dottor Morreale.

"Spotify promette che la 'playlist è creata apposta per te, in base alla musica che già ami', ma i termini di utilizzo di Spotify descrivono in dettaglio come un algoritmo potrebbe essere influenzato da fattori estrinseci all'utente, come accordi commerciali con artisti ed etichette".

"Nei loro consigli (e nelle playlist, se è per questo), Spotify probabilmente spingerà anche gli artisti delle etichette che detengono azioni Spotify:questo è anticoncorrenziale e dovremmo saperlo".

E probabilmente contrariamente alle percezioni della maggior parte degli utenti, l'app di appuntamenti Tinder è "un grande algoritmo", afferma Matt Bartlett. "Tinder ha precedentemente affermato di abbinare le persone in base a 'punteggi di desiderabilità' calcolati da un algoritmo. Non credo che gli utenti capiscano o sappiano completamente come funziona l'algoritmo di Tinder, e Tinder fa di tutto per non dircelo."

"Questo non vuol dire che questa sia una cosa malvagia, il problema è che non sono trasparenti su come avviene l'abbinamento. Secondo me, i termini di utilizzo dovrebbero specificarlo". Sebbene i ricercatori non siano stati in grado di identificare completamente come funzionano gli algoritmi delle piattaforme, la loro ricerca ha evidenziato proprio il problema:le aziende non sono trasparenti sulla loro raccolta dei nostri dati o su come li utilizzano.

"Con queste potenti piattaforme digitali che hanno una notevole influenza nella società contemporanea, i loro utenti e la società in generale meritano maggiore chiarezza su come funzionano gli algoritmi di raccomandazione", afferma il dott. Morreale. "È pazzesco che non possiamo scoprirlo; penso che in futuro guarderemo indietro e vedremo questo come il selvaggio West della grande tecnologia".