Party pooper Evgeny Morozov: ‘appification’ geen oplossing voor complexe problemen

Internetcriticus Evgeny Morozov gaf gisteren een lezing ter gelegenheid van het 25-jarig bestaan van het Mediafonds. Daarin schetste hij een groot aantal doemscenario’s voor een publieke sector die te veel tegen Silicon Valley aanschurkt.

Eigenlijk is internetcriticus Evgeny Morozov een geschiktere spreker is voor begrafenissen dan voor jubilea, zegt hij zelf. Wie zijn recente boek To Save Everything, Click Here (2013) heeft gelezen, of de Tegenlicht-uitzending (2011) over hem heeft gezien, weet dat de Wit-Rus inderdaad niet de aangewezen persoon is om een feestje op te fleuren. Misschien was dat juist wel reden dat het Mediafonds hem uitnodigde. Het fonds viert weliswaar een 25-jarig jubileum, maar weet tegelijkertijd dat het in 2017 ophoudt te bestaan. Geen betere gast om de stemming te drukken dan een zelfverklaard party pooper.

Silicon Valley imiteren

Overheidsbemoeienis is uit, apps zijn in. De publieke sector haalt zijn metaforen tegenwoordig uit Silicon Valley. Hoe pas je de logica van Kickstarter toe op de kunstsector? Wie begint de iTunes van de journalistiek?

De techbedrijven presenteren zich weliswaar als wereldverbeteraars, maar het zijn in de eerste plaats commerciële bedrijven, waarschuwt Morozov. Bovendien weten we weinig van de onderliggende structuren van de bedrijven die we willen kopiëren. Een publieke dienst die bijvoorbeeld de structuur van de ‘vrije’ encyclopedie Wikipedia wil toepassen, moet begrijpen dat er wel degelijk een hiërarchie en een veelheid aan regels onder schuilgaan.

Geoptimaliseerde boeken

De kunst- en cultuursector heeft alle reden om big data te wantrouwen, vindt Morozov.

De combinatie van sensors in onze mobiele devices en onze aanwezigheid op sociale media zorgt voor steeds meer data over wat we doen en denken. Vanuit een economisch perspectief is dat interessant; het levert nieuwe markten en nieuwe producten op. Voor schrijvers, journalisten en kunstenaars kan het wel eens minder positief uitpakken. Kindle, de e-reader van Amazon, houdt informatie bij over je leesgedrag. Het duurt niet lang meer voordat een biometrisch systeem in de interface van het scherm je emoties kan aflezen. Volgens de logica van de markt zal Amazon dan steeds verder geoptimaliseerde teksten gaan uitgeven. De vraag welk boek een succes wordt, is dan geen vraag, maar een gegeven, gebaseerd op data. De kans dat een uitgever nog risico’s met experimentele literatuur aandurft, neemt daarmee af. In de media zijn robots al een eind op weg om de banen van journalisten over te nemen.

Waarom apps geen oplossing zijn

Morozov maakt zich grote zorgen over de privatisering, of ‘appification’ van het oplossen van problemen. Het lijkt zo mooi: MOOCs voorzien de hele wereld van dezelfde hippe videocolleges. Selftracking apps roeien obesitas uit. Waar regeringen jarenlang mee worstelen, doet Silicon Valley in een oogwenk. Maar volgens Morozov vernietigen de MOOCs het traditionele hoger onderwijssysteem, dat veel meer is dan een platform om je klaar te stomen voor een carrière. Apps lijken rationeel, maar ze hebben geen oog voor de context van een complex probleem als obesitas. Voor een arm persoon in het midden van Amerika is het een rationele keuze om goedkope junkfood te kopen en niet twee uur te rijden naar de eerste winkel die dure verse groente verkoopt. Apps lossen geen problemen op; ze geven alleen de illusie dat we ze aanpakken. In big data doet het waarom er niet toe.

Author Evgeny Morozov of The Net DelusionFoto: The Guardian

Wie weet wat er in de zwarte box gebeurt?

Het is verleidelijk voor de publieke sector om complexe problemen te bestrijden met goedkope data, afkomstig van Facebook, Gmail, mobiele telefoons et cetera. Dat leidt nu al tot gevaarlijke situaties, betoogt Morozov. De Amerikaanse gezondheidszorg, hevig vercommercialiseerd onder invloed van farmaceutische bedrijven, zal alleen maar meer dure medicijnen uitschrijven naarmate mensen zichzelf meer monitoren met selftracking apps.

Geïnspireerd door Google en Twitter houdt de Amerikaanse politie zich steeds meer bezig met crime prevention. Algoritmes en software voorspellen wanneer en waar een misdaad plaatsvindt. Maar wie weet nog wat er precies gebeurt in de zwarte box die de berekeningen uitvoert?

Hetzelfde geldt voor terrorisme. Het controleren van de fysieke ruimte, bijvoorbeeld door middel van drones en gezichtsherkenning, om ervoor te zorgen dat bepaalde mensen er niet mogen komen, is een gevaar voor de democratie, betoogt Morozov. Misdaden verhinderen betekent dat er ook geen publiek debat plaatsvindt over wat een misdaad eigenlijk ís. Daar wordt in verschillende tijdperken nogal verschillend over gedacht.

Luie verhalen uitdagen

Techbedrijven presenteren zichzelf als de nieuwe Human Rights Watch, niet als de nieuwe Coca Cola. Morozov roept de zaal op om dat verhaal uit te dagen. Startups en venture capitalists uit Silicon Valley mogen niet meer wegkomen met luie antwoorden. Voor de duidelijkheid: hij is niet tegen techniek of de digitale infrastructuur. Maar problemen oplossen op basis van algoritmes resulteert, in de woorden van Morozov, in publieke instituten die gegijzeld worden door de logica van de markt. Het houdt politieke innovatie tegen. Het is tijd om het echte probleem opnieuw te definiëren, nu Silicon Valley overal een app voor heeft. Anders heeft het systeem onze mening straks niet meer nodig. Dan doen alleen onze data er nog toe.