I negozi online possono utilizzare algoritmi per addebitare ad alcuni clienti prezzi più alti rispetto ad altri. Le leggi europee offrono solo una protezione limitata contro tale differenziazione di prezzo. Frederik Zuiderveen Borgesius, Professore di ICT e diritto privato presso la Radboud University, ha scritto proprio su questo argomento in un articolo pubblicato sulla European Business Law Review.
I negozi online come Bol.com e Amazon utilizzano molti algoritmi per indurre i consumatori a spendere i loro soldi più rapidamente. L'utente medio è probabilmente abituato a vedere prodotti consigliati basati su acquisti precedenti e notifiche lampeggianti quando le scorte sono esaurite, ma cosa succede se viene utilizzato un algoritmo per visualizzare un prezzo al dettaglio individuale per ogni cliente? I negozi online potrebbero modificare i prezzi per determinati codici postali, o anche singoli clienti sulla base di indirizzi IP e altre caratteristiche.
Discriminazione algoritmica e libertà contrattuale
I negozi che utilizzano algoritmi raramente hanno intenti discriminatori, ma l'uso di algoritmi può anche portare inavvertitamente a discriminazioni. Questo è stato il caso in cui un istituto di tutoraggio americano ha imposto prezzi più elevati per determinate aree. I residenti in questi quartieri erano principalmente persone di origine asiatica, chi ha dovuto pagare di più per il tutoraggio. In alcuni casi, la differenza di prezzo per ogni corso era di $ 1, 800.
In linea di principio, la legge consente la differenziazione dei prezzi. La libertà contrattuale svolge un ruolo importante nel diritto europeo, il che implica che i venditori possono determinare il proprio prezzo al dettaglio. Ma se la differenziazione dei prezzi porta a discriminare i gruppi con caratteristiche protette, come etnia o genere, entrerà in gioco la legge sulla non discriminazione.
Le norme europee in materia di non discriminazione proteggono da varie forme di discriminazione, compresa la discriminazione basata sull'etnia e sul genere. È vietata anche la discriminazione indiretta. In breve, si ha discriminazione indiretta se una pratica è a prima vista neutra, ma porta ancora alla discriminazione contro le persone con una certa etnia (o una caratteristica protetta).
Difficile da scoprire
Se un negozio online adatta i suoi prezzi al codice postale del cliente, questa è considerata una pratica neutra. Però, se le persone che vivono in quella zona hanno per lo più un background immigrato, la pratica può comportare una forma vietata di discriminazione indiretta. La legge sulla non discriminazione sembra quindi proteggere le persone da certe forme di differenziazione dei prezzi.
"Ma la protezione contro la differenziazione dei prezzi è limitata", spiega Zuiderveen Borgesius. Iniziare con, la discriminazione algoritmica può rimanere nascosta. "Supponiamo che un negozio online applichi un prezzo più alto in un'area in cui la maggioranza dei residenti ha origini turche. È difficile per le persone all'interno di quest'area vedere una differenza di prezzo. È solo quando questi prezzi vengono confrontati con i prezzi di qualcun altro al di fuori l'area in cui puoi vedere la differenza. E anche se alcuni consumatori scoprissero di aver pagato più di altri, ancora non saprebbero che le persone con un background turco pagano di più in generale. Quindi, i consumatori non sarebbero ancora a conoscenza della discriminazione indiretta. Se i consumatori non si rendono conto di essere soggetti a discriminazione, non eserciteranno il loro diritto alla non discriminazione".
Un secondo problema è che il divieto di discriminazione indiretta include un'eccezione sfumata, che è spesso difficile da applicare in un caso specifico. La discriminazione indiretta non è vietata se l'impresa persegue un fine legittimo e la sua prassi neutrale costituisce un mezzo ragionevole (proporzionale).
"Se un'azienda cercasse di ottenere un profitto extra, un giudice probabilmente considererebbe questo un obiettivo legittimo", dice Zuiderveen Borgesius. Più complessa è la questione se la differenziazione dei prezzi sia un mezzo ragionevole. Questa risposta dipende da molti fattori. Quanto è grande la differenza di prezzo? Si tratta di caviale o altri prodotti di lusso, o prodotti da supermercato che le persone usano quotidianamente? Una regola così sfumata ha dei vantaggi, ma la sfumatura va a scapito della chiarezza. Insomma, non esiste una regola rigida che stabilisca chiaramente quali tipi di differenziazione di prezzo sono consentiti e quali vietati.
Preferenze del browser e nuovi tipi di discriminazione
Zuiderveen Borgesius:"Inoltre, gli algoritmi consentono di distinguere i consumatori sulla base di un gran numero di caratteristiche. Le leggi europee riconoscono la discriminazione basata sull'etnia, Genere, e altre caratteristiche simili. Però, il browser che utilizzi o l'area del codice postale in cui vivi non è una caratteristica protetta. Di conseguenza, un negozio online potrebbe far pagare un extra alle persone quando usano un determinato browser. La legge sulla non discriminazione dice poco su questo, purché la pratica non riguardi le persone con una certa etnia o un'altra caratteristica protetta".
Sebbene attualmente non sembri quasi esserci alcun negozio online che utilizzi algoritmi per determinare prezzi diversi per consumatori diversi, c'è una forte possibilità che questo cambierà in futuro. È in parte per questo motivo che il ministro olandese Sander Dekker ha annunciato in una lettera alla Camera dei rappresentanti che i ministeri dell'Interno e della Giustizia e della Sicurezza stanno indagando su come prevenire la discriminazione nell'offerta di beni e servizi. Zuiderveen Borgesius:"È probabile che sarà necessaria una nuova legislazione per fornire una migliore protezione. Quando si tratta di come possiamo proteggere le persone dagli effetti discriminatori degli algoritmi, sono necessarie più ricerche e dibattiti".
