Werknemers van Amazon hebben afgelopen zomer een ontmoeting gehad met de Amerikaanse Immigration and Customs Enforcement (ICE). Het bedrijf hoopte zijn gezichtsherkenningstechnologie te kunnen verkopen aan de ICE, meldt The Daily Beast op basis van interne e-mails die zij in handen hebben.
Amazon gaf op 12 juni in Californië een pitch over het zogenaamde Rekognition-programma, maar ook over de machine learning-mogelijkheden binnenin AWS. Een maand later stuurde iemand van de ICE die ook bij de pitch aanwezig was een link naar een blogbericht dat reageerde op privacy-vraagstukken van de ACLU de wereld in.
Amazon stuurde ook een e-mail met “actiepunten” waarin “Rekognition Video-tagging en -analyses, schaalbaarheid en eigen object libraries” in voorkwamen. De verkoopmedewerker van de internetgigant bedankte de organisatie verder voor de interesse in het gebruik van de technologie, “om de missie van ICE en Homeland Security Investigations (HSI) te ondersteunen”.
Kritiek
Rekognition kwam eerder dit jaar onder vuur te liggen, nadat de ACLU aantoonde dat de functie door een aantal kleine politiebureaus gebruikt werd voor 6 dollar per maand. Het algoritme was echter niet voorgelegd aan instituten dat openbare testen doen voor racisme. Racisme is een grote zorg binnenin gezichtsherkenningssoftware.
Werknemers van de internetgigant maakten eerder bezwaar tegen het gebruik van de technologie door politiebureaus en organisaties als ICE en HSI. De ontmoeting tussen het bedrijf en de ICE vond echter enkele weken later plaats. Er is geen bewijs gevonden dat ICE de software ook daadwerkelijk gebruikt.