Apple lanceerde in maart dit jaar zijn eigen creditcard in samenwerking met de bank Goldman Sachs. De zogeheten Apple Card is in eerste instantie een digitale kaart die op je iPhone zit, maar je kunt ook een fysieke versie krijgen. Probleem is echter dat vrouwen een veel lager limiet op de kaart zouden krijgen dan mannen.
Die claim verscheen vorige week, toen David Heinemeiser Hansson – onder meer de maker van de programmeertaal Ruby on Rails – op Twitter meldde dat zijn kredietlimiet twintig keer hoger was dan dat van zijn vrouw. Dat terwijl ze al jaren samenwonen, samen hun belastingaangifte doen en getrouwd zijn.
Hansson beschuldigde Apple en Goldman Sachs dan ook van het gebruik van een ‘black box’-algoritme: een algoritme waarvan je niet weet hoe het tot zijn conclusies komt. Daarnaast noemde hij het programma seksistisch.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
Hansson plaatste vervolgens een reeks aan tweets, waarin hij beschreef hoe hij probeerde uit te zoeken wat er gebeurd was en waarom de kredietlimiet van zijn vrouw zoveel lager was. Uiteindelijk deden ze mee aan een programma om hun kredietlimiet officieel vast te laten stellen. Daarbij bleek dat die van zijn vrouw hoger is.
So yeah, I completely stand by my original charge: @AppleCard is a sexist program. It does not matter what the intent of individual Apple reps are, it matters what THE ALGORITHM they’ve placed their complete faith in does. And what it does is discriminate. This is fucked up.
— DHH (@dhh) November 8, 2019
Onderzoek
Hansson was bovendien niet de enige waarbij dit gebeurde. Zelfs Apple-medeoprichter Steve Wozniak laat op Twitter weten dat dit hem en zijn vrouw is overkomen. De kredietscore van Wozniak bleek tien keer hoger te zijn dan dat van zijn vrouw.
I'm a current Apple employee and founder of the company and the same thing happened to us (10x) despite not having any separate assets or accounts. Some say the blame is on Goldman Sachs but the way Apple is attached, they should share responsibility.
— Steve Wozniak (@stevewoz) November 10, 2019
Nu blijkt dat een waakhond van Wall Street onderzoek gaat doen naar de creditcardpraktijken van Goldman Sachs, schrijft Bloomberg. Er wordt dus onderzocht of de bank daadwerkelijk seksistisch is bij het uitgeven van kredieten.
Hansson zelf liet op Twitter ook al weten dat de bank een intern onderzoek naar het algoritme heeft toegezegd.