Le app di appuntamenti mobili che consentono agli utenti di filtrare le loro ricerche in base alla razza - o si basano su algoritmi che accoppiano persone della stessa razza - rafforzano le divisioni e i pregiudizi razziali, secondo un nuovo articolo dei ricercatori della Cornell.

Man mano che sempre più relazioni iniziano online, le app di incontri e incontri dovrebbero scoraggiare la discriminazione offrendo agli utenti categorie diverse da razza ed etnia per descrivere se stessi, pubblicare messaggi comunitari inclusivi, e scrivere algoritmi che non discriminano, hanno detto gli autori.

"La serendipità si perde quando le persone sono in grado di filtrare le altre persone, " ha detto Jevan Hutson '16, M.P.S. '17, autore principale di "Debiasing Desire:affrontare pregiudizi e discriminazioni su piattaforme intime, " co-scritto con Jessie G. Taft '12, M.P.S. '18, un coordinatore di ricerca presso Cornell Tech, e Solon Barocas e Karen Levy, professori assistenti di scienze dell'informazione. "Le piattaforme di incontri hanno l'opportunità di sconvolgere particolari strutture sociali, ma perdi quei vantaggi quando disponi di funzionalità di progettazione che ti consentono di rimuovere persone diverse da te."

La carta, che gli autori presenteranno alla Conferenza ACM su Computer-Supported Cooperative Work and Social Computing il 6 novembre, cita la ricerca esistente sulla discriminazione nelle app di appuntamenti per mostrare come semplici decisioni di progettazione potrebbero ridurre i pregiudizi nei confronti delle persone di tutti i gruppi emarginati, comprese le persone disabili o transgender. Sebbene le preferenze del partner siano estremamente personali, gli autori sostengono che la cultura modella le nostre preferenze, e le app di appuntamenti influenzano le nostre decisioni.

"È davvero un momento senza precedenti per appuntamenti e riunioni online. Sempre più persone utilizzano queste app, e sono infrastrutture critiche che non ricevono molta attenzione quando si tratta di pregiudizi e discriminazioni, "ha detto Hutson, ora studente alla University of Washington School of Law. "L'intimità è molto privata, e giustamente, ma le nostre vite private hanno un impatto su modelli socioeconomici più ampi che sono sistemici".

Il quindici percento degli americani dichiara di utilizzare siti di incontri, e alcune ricerche stimano che un terzo dei matrimoni e il 60% delle relazioni tra persone dello stesso sesso siano iniziati online. Tinder e Grindr hanno decine di milioni di utenti, e Tinder afferma di aver facilitato 20 miliardi di connessioni dal suo lancio.

La ricerca mostra che le disuguaglianze razziali negli appuntamenti online sono molto diffuse. Per esempio, gli uomini e le donne di colore hanno 10 volte più probabilità di inviare messaggi ai bianchi rispetto ai bianchi a inviare messaggi ai neri. Consentire agli utenti di cercare, ordinare e filtrare potenziali partner per razza non solo consente alle persone di agire facilmente su preferenze discriminatorie, impedisce loro di connettersi con partner che potrebbero non aver realizzato di volere.

Le app possono anche creare pregiudizi. Il documento cita una ricerca che mostra che gli uomini che hanno utilizzato le piattaforme hanno visto il multiculturalismo in modo meno favorevole, e il razzismo sessuale come più accettabile.

Gli utenti che ricevono messaggi da persone di altre razze hanno maggiori probabilità di impegnarsi in scambi interrazziali di quanto non avrebbero fatto altrimenti. Ciò suggerisce che la progettazione di piattaforme per facilitare l'incontro tra persone di razze diverse potrebbe superare i pregiudizi, hanno detto gli autori.

L'app per incontri gay con sede in Giappone 9Monsters raggruppa gli utenti in nove categorie di mostri immaginari, "che può aiutare gli utenti a guardare oltre altre forme di differenza, come la razza, etnia e abilità, " dice il giornale. Altre app utilizzano filtri basati su caratteristiche come opinioni politiche, storia delle relazioni ed educazione, piuttosto che di razza.

"C'è sicuramente molto spazio per trovare modi diversi in cui le persone possano conoscersi l'un l'altro, "Ha detto Hutson.

Gli algoritmi possono introdurre discriminazione, intenzionalmente o no. Nel 2016, un giornalista di Buzzfeed ha scoperto che l'app di appuntamenti CoffeeMeetsBagel mostrava agli utenti solo potenziali partner della loro stessa razza, anche quando gli utenti dicevano di non avere preferenze. Un esperimento condotto da OKCupid, in cui agli utenti veniva detto che erano "altamente compatibili" con le persone che l'algoritmo considerava effettivamente le corrispondenze non valide, hanno scoperto che gli utenti avevano maggiori probabilità di avere interazioni di successo quando gli veniva detto che erano compatibili, indicando il forte potere della suggestione.

Oltre a ripensare il modo in cui vengono condotte le ricerche, pubblicare politiche o messaggi che incoraggiano un ambiente più inclusivo, o vietando esplicitamente una determinata lingua, potrebbe ridurre la distorsione nei confronti degli utenti di qualsiasi gruppo emarginato. Per esempio, Grindr ha pubblicato un articolo intitolato "14 Messaggi Trans People Want You Stop Sending on Dating Apps" sul suo sito multimediale, e l'app di incontri gay Hornet impedisce agli utenti di fare riferimento a preferenze razziali o razziali nei loro profili.

Cambiamenti come questi potrebbero avere un grande impatto sulla società, gli autori hanno detto, poiché la popolarità delle app di appuntamenti continua a crescere e iniziano a diminuire le relazioni in luoghi come i bar, quartieri e luoghi di lavoro. Eppure, mentre gli spazi fisici sono soggetti a leggi contro la discriminazione, le app online no.

"Un bar a caso in North Dakota con 10 clienti al giorno è soggetto a più direttive sui diritti civili di una piattaforma che ha 9 milioni di persone che visitano ogni giorno, "Ha detto Hutson. "Questo è uno squilibrio che non ha senso".

Ancora, gli autori hanno detto, i tribunali e le legislature hanno mostrato riluttanza a farsi coinvolgere in relazioni intime, ed è improbabile che queste app vengano regolamentate a breve.

"Dato che queste piattaforme stanno diventando sempre più consapevoli dell'impatto che hanno sulla discriminazione razziale, pensiamo che non sia un grande sforzo per loro adottare un approccio più orientato alla giustizia nel proprio progetto, " Taft ha detto. "Stiamo cercando di aumentare la consapevolezza che questo è qualcosa di designer, e le persone in generale, bisognerebbe pensarci di più".