Apple Inc. e Goldman Sachs Group Inc., due delle aziende più riconoscibili nel campo della tecnologia e della finanza, sono coinvolti in un crescente dibattito sul fatto che i creditori discriminino involontariamente quando utilizzano modelli complessi per determinare come gli americani prendono in prestito denaro.

Di sabato, Bloomberg ha riferito che un regolatore di Wall Street ha aperto un'indagine sulle pratiche della carta di credito di Goldman dopo che un tweet virale di un imprenditore tecnologico ha affermato che gli algoritmi della Apple Card hanno discriminato sua moglie.

Ora un altro utente di alto profilo della Apple Card, il co-fondatore di Apple Steve Wozniak, chiede al governo di essere coinvolto, citando un'eccessiva dipendenza aziendale dalla tecnologia misteriosa.

"Questo tipo di ingiustizie mi infastidisce e va contro il principio di verità. Non abbiamo trasparenza su come queste aziende impostano e operano queste cose, " Wozniak ha detto in un'intervista di domenica. "Il nostro governo non è abbastanza forte sulle questioni della regolamentazione. I consumatori possono essere rappresentati solo dal governo perché le grandi aziende rappresentano solo se stesse".

Wozniak ha detto che può prendere in prestito 10 volte di più di sua moglie sulle loro carte Apple anche se condividono conti bancari e altri conti di carte di credito, e che altri finanziatori li trattino allo stesso modo.

"Gli algoritmi hanno ovviamente dei difetti, " Wozniak ha detto. "Un numero enorme di persone direbbe, "Amiamo la nostra tecnologia, ma non abbiamo più il controllo". Penso che sia il caso".

Tweet virali

I finanziatori hanno promosso i modelli perché dovrebbero livellare il campo di gioco tra i diversi mutuatari rimuovendo l'errore umano e concentrandosi solo sui dati.

"Le nostre decisioni di credito si basano sulla solvibilità del cliente e non su fattori come il genere, corsa, età, orientamento sessuale o qualsiasi altra base vietata dalla legge, ", ha dichiarato il portavoce di Goldman Andrew Williams dopo che il Dipartimento dei servizi finanziari di New York ha aperto un'indagine sulle pratiche delle carte della banca.

L'indagine è stata avviata in risposta a una serie di post su Twitter di David Heinemeier Hansson che si scagliava contro la Apple Card per avergli dato 20 volte il limite di credito ottenuto da sua moglie. I tweet, molti dei quali contengono parolacce, ha immediatamente guadagnato terreno online e una risposta su Twitter da Wozniak.

Hansson non ha rivelato alcuna informazione specifica relativa al reddito per la coppia, ma ha affermato che hanno presentato dichiarazioni dei redditi congiunte e che sua moglie ha un punteggio di credito migliore di lui. Wozniak ha detto che lui e sua moglie presentano anche dichiarazioni congiunte e condividono carte di credito e conti bancari.

"Il dipartimento condurrà un'indagine per determinare se la legge di New York è stata violata e garantire che tutti i consumatori siano trattati allo stesso modo indipendentemente dal sesso, " ha detto un portavoce di Linda Lacewell, il sovrintendente del NY DFS. "Qualsiasi algoritmo che intenzionalmente o meno si traduca in un trattamento discriminatorio delle donne o di qualsiasi altra classe protetta di persone viola la legge di New York".

È la seconda azione del genere nelle ultime settimane da parte del regolatore, che ha aperto un'indagine contro il gigante della sanità UnitedHealth Group Inc. dopo che uno studio ha scoperto che un algoritmo ha favorito i pazienti bianchi rispetto ai pazienti neri.

"Le nuove tecnologie non possono lasciare indietro determinati consumatori o radicare la discriminazione, "Lacewell ha detto in una dichiarazione domenica. Ha anche sollecitato reclami da parte dei consumatori offesi su Twitter.

I finanziatori tradizionali stanno aumentando il loro uso di macchine per decidere chi ottiene quanto credito come parte di una strategia per ridurre i costi e aumentare le richieste di prestito. Nel frattempo, le aziende tecnologiche si stanno muovendo nel territorio del settore dei servizi finanziari, con aziende come Amazon, Mela, Facebook e Google minacciano le redditizie linee di business delle banche offrendo prestiti e opzioni di pagamento.

Scrutinio del Congresso

Gli algoritmi hanno attirato l'attenzione del Congresso. Nel mese di giugno, l'House Financial Services Committee ha sentito parlare di esempi di processi decisionali algoritmici in cui i ricercatori hanno riscontrato casi di parzialità nei confronti di gruppi specifici anche quando non c'era l'intenzione di discriminare.

Alcuni legislatori stanno già chiedendo una risposta federale. La senatrice Elizabeth Warren, un democratico del Massachusetts e contendente per sfidare il presidente Donald Trump alle elezioni del 2020, ha detto ai regolatori federali a giugno che il governo "dovrà agire per garantire che le leggi contro la discriminazione siano al passo con l'innovazione".

Per Goldman, le sue crescenti ambizioni per Main Street stanno portando un maggiore controllo e una nuova serie di sfide che non ha mai affrontato in precedenza. La Apple Card è una joint venture tra Apple e la banca con sede a New York, che è responsabile di tutte le decisioni di credito sulla carta. È stato lanciato all'inizio di quest'anno:il gigante della tecnologia lo commercializza come "creato da Apple, non è una banca" e i dirigenti di entrambe le società lo hanno salutato come il lancio di maggior successo di sempre.

Hansson ha detto che Goldman non sta trattando seriamente i pregiudizi involontari.

"Non appena questo è diventato un problema di pubbliche relazioni, hanno immediatamente aumentato il suo limite di credito senza chiedere alcuna documentazione aggiuntiva, " Ha detto di sua moglie in un'intervista sabato. "La mia convinzione non è che ci fosse qualche persona nefasta che voleva discriminare. Ma non importa. Come fai a sapere che non c'è un problema con l'algoritmo di apprendimento automatico quando nessuno può spiegare come è stata presa questa decisione?"

©2019 Bloomberg Notizie
Distribuito da Tribune Content Agency, LLC.