Het feit dat veel algoritmes een soort black boxes zijn, waarvan bijna niemand weet op grond waarvan ze beslissingen nemen, is een groot probleem. Het zou daarom legaal moeten zijn dingen te hacken om erachter te komen hoe dingen werken en voor mensen met beperkte technische kennis zouden algoritmes een bijsluiter moeten krijgen.
Dat betoogde de Deense datawetenschapper Joerg Blumtritt vorige week in een presentatie op Border Sessions. Blumtritt is CEO van Datarella, een bedrijf dat gespecialiseerd is gedragsanalyses van mensen op basis van grote hoeveelheden data. En juist omdat hij dus geld verdient met algoritmes, is het interessant dat hij betoogde om beter na te denken over de ethische kant van algoritmes.
Waardeoordelen
Algoritmes geven waardeoordelen Deel deze quote“Algoritmes komen van oudsher uit de logica en zijn deterministisch. Je weet precies wat er uitkomt als je er iets instopt. Maar tegenwoordig is een steeds groter deel van de algoritmes willekeurig in plaats van deterministisch. Ze geven waardeoordelen”, vertelt Blumtritt, die samen meteen collega onderzoek deed naar de ethiek rond algoritmes.
“Bijvoorbeeld Facebook draait op dit soort algoritmes. Ik weet niet hoe Facebook beoordeelt wat relevant is en wat niet. En de vraag is natuurlijk hoe erg dat is bij Facebook, maar er zijn plekken waar het veel grotere gevolgen heeft dan op een sociaal netwerk.”
“Neem bijvoorbeeld een MRI-scan. Dat is geen fysieke afbeelding, maar het is een heleboel data die wordt verzameld bij de scan en vervolgen wordt geïnterpreteerd door software om tot een visuele weergave te komen. Dokters discussiëren over hoe ze die scans moeten interpreteren, want verschillende specialismen stellen andere eisen. Voor de één is het prettiger als een bloedvat groter wordt gemeten dan het in werkelijkheid is, dan een afwijking waarbij het te klein wordt weergeven. Voor anderen geldt het juist precies andersom. Maar deze keuze over de interpretatie MRI-scans wordt gemaakt door softwareontwikkelaars.”
Een algoritme bepaalt of je een terrorist bent Deel deze quote“Een ander voorbeeld is het systeem dat is ontwikkeld door de startup Palentir. Het classificeert op basis van data en onderlinge relaties of iemand een terrorist is. De software wordt gebruikt door Amerikaanse overheidsinstanties en kan er voor zorgen dat mensen bijvoorbeeld niet meer mogen vliegen. Een algoritme bepaalt dat dus en je kunt er niet over klagen; er is geen instantie waar je heen kunt.”
Toegang tot informatie
Volgens Blumtritt bepalen algoritmes ook steeds meer tot welke informatie je toegang krijgt. “Ik heb op een gegeven moment een test gedaan. Ik heb gegoogeld naar een hack van een iPhone op een computer die draaide op Windows 7 met een hele oude versie van Internet Explorer en op een computer die draaide op Debian Linux via de nieuwste versie van Firefox. Op de Windows-computer kreeg ik berichten van de mainstream media en op mijn Linux-machine krijg ik de technische artikelen met een gedegen uitleg.”
“Google maakt dus de beslissing voor ons en we weten niet precies hoe. En dat is best een serieus probleem als je bedenkt dat 80 tot 90 procent van de mensen in Europa nieuws opzoekt via Google. De algoritmes van de zoekmachine hebben dus invloed op onze meningsvorming en eventueel zelfs op wat we stemmen. Niet dat Google ons bewust een standpunt probeert in te laten nemen, het gebeurt juist onbewust.”
Algoritmes gaan straks ook bepalen hoe onze auto’s rijden. Ze moeten eventueel zelfs de keuze gaan maken over hoe ze ingrijpen bij een mogelijk ongeluk met dodelijk afloop. Bescherm je de mensen in je auto of de mensen op straat? Daarmee krijgen algoritmes nog meer macht, maar toch maakt Blumtritt zich daar niet heel veel zorgen over. “De discussie hierover is nu al bezig op politiek niveau. Er komen regels voor, zoals we die bijvoorbeeld ook zien voor algoritmes die kredietwaardigheid bepalen.”
Bijsluiter
Met de opkomst van the Internet of Things wordt er steeds meer data verzamelt die algoritmes gaan gebruiken om keuzes te maken. “Wij worden als mensen voer voor de algoritmes, niet-kwantificeerbare dingen worden steeds minder belangrijk.” De datawetenschapper vindt het daarom een interessant idee dat je de algoritmische representatie van jezelf zou moeten kunnen wijzigen om te ontdekken wat bepaalde factoren voor invloed hebben.
De ethiek rond algoritmes gaat uiteindelijk om bewustwording en om transparantie, stelt Blumtritt. “Ik vind dat zoveel mogelijk algoritmes en software open source zou moeten zijn. Je zou moeten kunnen zien hoe dingen werken en het zou legaal moeten zijn om dingen te hacken.”
Hij stelt dat dit gereguleerd moeten worden. “Iedereen zou moeten weten op grond waarvan algoritmes welke keuze maken. En voor de mensen die niet zo technisch zijn, zouden er bijsluiters moeten zijn waarin de werking in gewone mensentaal wordt uitgelegd”, besluit Blumtritt zijn betoog.