L’algoritmo di Apple Card sotto inchiesta per discriminazione

la Apple Card sarà realtà nel giro di qualche settimana, a partire dal mercato statunitense

Alla richiesta della carta, uomini e donne possono portare a limiti di spesa differenti, a svantaggio del sesso femminile

La scorsa settimana, David Heinemeier Hansson, ha usato Twitter per spiegare un funzionamento molto strano del sistema di concessione della Apple Card.  Lui e sua moglie hanno richiesto la carta e, confrontato i requisiti di accesso, si è accorto che nonostante la moglie avesse dei valori di ingresso migliori, la richiesta è stata concessa solo al marito. Hansson ha quindi parlato di un algoritmo di accettazione sessista. E come se non bastasse, in uno screenshot pubblicato su Twitter, il ragazzo ha affermato che la Apple Card consegnata in seconda battuta alla moglie ha un limite di spesa più basso, che sforato porterà all’impossibilità di nuovi acquisti sino al successivo periodo di fatturazione. Dopo che il tweet di Hansson è diventato virale, il Dipartimento dei servizi finanziari di New York ha annunciato la volontà di avviare un’indagine su Goldman Sachs, la banca d’investimento che fornisce la Apple Card e sull’algoritmo utilizzato per determinare il “merito creditizio” dei consumatori candidati.

Come funziona

In una dichiarazione rilasciata a Bloomberg, un portavoce di Linda Lacewell, sovrintendente del Dipartimento dei servizi finanziari di New York, ha dichiarato: “Il dipartimento condurrà un’indagine per determinare se la legge di New York è stata violata e garantirà che tutti i consumatori siano trattati allo stesso modo indipendentemente dal sesso. Qualsiasi algoritmo, che provoca intenzionalmente o meno un trattamento discriminatorio nei confronti delle donne o di qualsiasi altra classe protetta viola la nostra legge”.

La Apple Card è stata lanciata ad agosto e l’esperienza di Hansson non è la prima nel suo genere. In risposta al suo primo tweet, più utenti, tra cui il co-fondatore di Apple, Steve Wozniak, hanno ricordato episodi identici, con limiti di spesa differenti a seconda del sesso. Per ora, non è chiaro quanto tempo ci vorrà perché l’indagine porti a risultati concreti e se cambierà davvero il modo in cui l’emissione della carta determina l’affidabilità creditizia dei richiedenti.

Leggi anche:  Il futuro dell’open banking passa da CBI Globe