De robots komen. Ze zitten in onze smartphones en in onze lichamen. Ze rijden rond op onze wegen, werken in onze fabrieken en kantoren en houden een sensor aan de pols. De robotisering van de maatschappij is in volle gang. Tijd om, in het kader van NRC Live, het daarover te hebben met één van de sprekers: Linda Kool, onderzoeker bij het Rathenau Instituut.
Robotisering is een vrij breed begrip. Is het niet beter als we dit wat inperken?
Het klopt dat robotisering een breed begrip is en ik denk dat dat goed is. Bij het Rathenau Instituut hebben we het over een heel cluster aan technologieën die met elkaar samenhangen. Van de fysieke robotica – dus een apparaat met – technische armen, tot een zelfsturende auto, de software en de sensoren die robots aansturen. Digitalisering is een heel cluster aan technologieën die met elkaar samenhangen. Over dat cluster moet de discussie gaan.
U probeert bij het Rathenau Instituut te voorspellen hoe technologie de maatschappij gaat beïnvloeden. Dat lijkt me niet makkelijk.
Technologie is onvoorspelbaar, aan de andere kant ook wel voorspelbaar. Het Rathenau Instituut keek twee jaar geleden voor een studie naar de impact van technologie op werk. Daarbij keken we 200 jaar terug in de tijd. Iedere keer in die 200 jaar werd het arbeidsproces net iets anders georganiseerd. Daarin zie je wel rode draden: als je iets kan standaardiseren, kun je het ook automatiseren. We zullen verrast zijn wat er allemaal gestandaardiseerd, en dus geautomatiseerd kan worden. Maar in digitalisering zit inderdaad ook een zekere mate van onvoorspelbaarheid.
Eerder dit jaar presenteerde het Rathenau Instituut in het kader van digitalisering twee nieuwe mensenrechten: het recht om niet gemeten, geanalyseerd en beïnvloed te worden en het recht op betekenisvol menselijk contact. Is dat om de onvoorspelbaarheid in goede banen te kunnen leiden?
Het fascineert me hoe wij technologie gebruiken. Hoe we het ons eigen maken en hoe het soms ook leidt tot dingen die een programmeur of ingenieur niet heeft voorzien. We zien dat digitale technologie eigenlijk heel diep ingrijpt in ons mens-zijn. En dat snappen we heel goed als het gaat over biotechnologie of nanotechnologie: dat grijpt in in ons lichaam.
Maar bij digitale technologie hebben we dat lang niet altijd door. Toch heeft het invloed op ons denken, handelen, onze relaties en gevoelens… en dat is natuurlijk ook een heel wezenlijk aspect van het mens-zijn. Die mensenrechten zijn bedoeld om daar de discussie over te starten. Wat doet die technologie met ons en hoe willen wij dat we die inzetten?
Dat suggereert technologie ons altijd heel onbewust beïnvloedt. Hebben mensen inderdaad niet altijd door wat er aan de hand is?
Nee, ik denk dat we er lang niet altijd bij stilstaan bij hoe wij ons laten beïnvloeden. Als je mij bijvoorbeeld zou vragen hoe vaak ik per dag mijn smartphone bekijk, zou ik een getal noemen dat echt niet in de buurt komt van het werkelijke aantal. Om daar bewust van te zijn, heb ik nu een app gedownload die bijhoudt hoe vaak ik mijn smartphone pak.
Eigenlijk is het wel ironisch dat u daar dan een app voor nodig heeft.
Ja, precies. Maar dat is wat ik bedoel: technologie dient de mens. Dat is waar je naar op zoek bent. Hoe zorg je dat we technologie zo inzetten dat het ons kan dienen? Ik wil geen slaaf zijn van mijn smartphone, maar er de baas over zijn. Dat ik daar dan technologie voor nodig heb: prima!
Dat geldt voor iedereen die in aanraking komt met technologie. Voor iedereen is de vraag: hoe willen wij die technologie inzetten? Stel dat kunstmatige intelligentie op een gegeven moment zo goed wordt dat het in de rechtspraak gebruikt wordt. Willen we dat dan? Of moet er een mens verantwoordelijk blijven? En hoe moet die verantwoording afleggen? Hetzelfde geldt voor robots in de zorg: hoe gaan we daarmee om? Willen we robots als vervanging voor de zorg, of willen we menselijk contact houden? Dat zijn vragen de we nu kunnen stellen, zodat we technologie zo ontwerpen dat de mens centraal staat.
Moeten we deze discussie dus op hele specifieke en concrete punten voeren?
Ja. Voor iedere toepassing moeten we dat opnieuw bekijken. Wat probeer je met die technologie te bereiken? Welke impact kan je je voorstellen dat het heeft? Is dat wenselijk? Kun je dat op een andere manier doen?
De mensenrechten helpen daarbij. Als iets een mensenrecht is, zorgt dat ervoor dat je als mens je recht kan halen. Dat zal een enkeling gaan doen. Maar ik denk dat je vooral winst kan halen als je deze mensenrechten als leidende ontwerprichtlijnen gaat zien. Vergelijk het met milieurichtlijnen. Vroeger werden die gezien als vervelend, of een kostenpost. Tegenwoordig is het een kans: hoe kunnen we producten maken die óók nog eens bijdragen aan een mooi milieu? Voor technologie geldt hetzelfde. Hoe maken we producten nou zo, dat we ook onze mensenrechten behouden?
In 2008 schreef u in een opiniestuk dat sociale media een grotere bedreiging vormen voor de privacy dan overheden. We zijn nu negen jaar later. Is dat nog steeds zo?
Ik denk dat het om andere soorten risico’s gaat. De discussie over nepnieuws kon je in 2008 niet voorzien. Het gaat niet alleen over privacy, maar er zijn andere discussies bijgekomen. In de praktijk heeft het bedrijfsleven en de overheid allerlei manieren om je te volgen of te tracken.
We hebben het debat wel gevoerd over specifieke situaties, maar niet over het cumulatieve effect. Of je nou in je huis bent, op straat loopt, in de auto zit, of in de trein zit… je wordt gevolgd. Wat is daar het effect van? Je hoort daarbij steeds vaker begrippen zoals klikvrees: wat gebeurt er als ik op deze link klik? Dus je gaat je gedrag veranderen omdat je je bespied waant. Dat raakt de kern van onze vrije samenleving en dat komt denk ik van zowel de overheid als het bedrijfsleven.
U zegt hier eigenlijk dat we het debat in dit geval niet concreet en specifiek per toepassing moeten voeren, maar over het geheel. Waar begint de discussie: bij het afzonderlijke aspect, of de cumulatieve impact?
Je moet beide doen. Per toepassing is het belangrijk om te kijken hoe die ons mens-zijn beïnvloedt en hoe je in het specifieke geval mensenrechten kunt waarborgen. Tegelijkertijd is het nodig om naar het grotere geheel te kijken. De nieuwe mensenrechten bieden een handvat voor de discussie op beide niveaus.
Heeft u wel het idee dat mensen zich meer bewust worden van digitalisering?
Ja, dat denk ik wel. Ik ben nu drie jaar bij NRC Live geweest. Wat ik heb zien veranderen in het debat is dat het in 2015 heel erg ging over angst voor robotisering. Een andere groep zei: nee hoor, zo’n vaart loopt het niet; uiteindelijk komt het iedereen ten goede. En een derde groep zei: nou met een basisinkomen, dus voor een bepaalde groep mensen iets regelen, komt het allemaal wel goed.
Ik denk dat het debat nu genuanceerder en realistischer is. Waar liggen de kansen, waar liggen de zorgen? Er is veel aandacht voor robotisering geweest. Ik denk dat er in drie jaar meer bewustzijn is gekomen voor het verantwoord inzetten van digitale technologie. Je wilt natuurlijk zoveel mogelijk maatschappelijk verantwoord innoveren. Dat zit zoals ik zei ook in die mensenrechten.
Is daar haast bij?
Ik denk dat het heel hard nodig is om het hierover te gaan hebben. We moeten minder naïef over digitale technologie nadenken en echt uitgaan van die impact op ons mens-zijn, want we staan pas aan het begin van de discussie.
Is het glas half vol of half leeg?
Uhmm.. nou, half vol. Ik ben een optimist. Maar echt: we kunnen zoveel moois met technologie. Dus laten we dat ook vooral doen.