Numrush

Voorspellende technologieën worden slimmer maar ook controversiëler

De manier waarop we met computers omgaan zal de komende jaren sterk gaan veranderen. Zo vindt er op dit moment een eerste golf van zogenaamde “voorspellende technologieën” plaats zoals de Google Now, Tempo AI en de Predictables. Deze services presenteren je met informatie en details nog voordat je je realiseert dat je ze nodig hebt.

Dat klinkt erg handig maar er is nog weinig bekend over waar deze ontwikkelingen precies toe zullen leiden. Hoeveel persoonlijke data zijn we bovendien bereid op te geven voor het gemak van voorspellingen? Zijn dit soort voorspellingen wel te vertrouwen?

Volgens Tim Tuttle, CEO van Expect Labs, zullen voorspellende technologieën steeds meer alomtegenwoordig worden. In een e-mail aan VentureBeat schreef hij het volgende:

Over the next few years you are going to see predictive tech and intelligent assistants begin to appear everywhere. Not only will they be in most apps you use — they will also be in your car, in your living room, and in your office. They will also be inside the enterprise — helping doctors better treat patients, helping customer support reps more quickly assist their customers, helping a mobile workforce coordinate in the field, etc.

De sleutel tot voorspellende technologieën is data. Dat sluit precies aan bij de voorspelde opkomst van wearables die aan ons verbonden zitten en aan de lopende band allerlei data verzamelen. De Fitbit en Jawbone wearables gebruiken deze data al voor het doen van voorspellingen. Bijvoorbeeld wanneer je slaappatroon problematisch dreigt te worden en de Jawbone Up je een middagdutje adviseert.

Volgens Devindra Hardawar, journalist bij VentureBeat, zullen voorspellende technologieën en nieuwe wearables steeds meer gaan overlappen. Geruchten rondom de Google smartwatch stellen bijvoorbeeld dat de focus van deze wearable zal liggen op Google Now.

Google Now lijkt op Siri maar voert daarnaast ook taken uit op basis van voorspellingen. Zo zou de wearable je bijvoorbeeld de route naar je volgende afspraak kunnen laten zien of een goed restaurant kunnen aanbevelen zonder dat je daar om gevraagd hebt; een soort gedachtenlezen.

De groeps-videochat app MindMeld ontwikkeld door Tuttle’s Expect Lab is hier een ander voorbeeld van. Je kunt met deze app met meerdere mensen videochatten net zoals via Skype en Google maar de app biedt daarnaast allerlei details op basis van waarover je praat tijdens de chat:

While we are still a long way off from building the omniscient Star Trek computer, the technology is getting better at a surprisingly fast rate. It will start with special-purpose intelligent assistants that let you easily find information you need in specific domains. For example, if you work in sales support, you will likely rely on an intelligent assistant that understands your entire product catalog.

Hardawar verwacht dat we de komende tijd nog veel meer van dit soort voorspellende producten en services zullen gaan zien. Hij vraagt zich echter tegelijkertijd af of we bepaalde beslissingen wel willen overlaten aan algoritmes? Hierhier en hier schreven we al over de mogelijke nadelen en/of gevaren van een te grote afhankelijkheid van algoritmes.

In het boek The Filter Bubble schrijft Eli Pariser ook over deze gevaren. Bedrijven zoals Facebook en Google worden steeds beter in ons dingen te laten zien die we volgens hen graag willen zien. Maar, zegt Pariser: “The set of things we’re likely to click on (sex, gossip, things that are highly personally relevant) isn’t the same as the set of things we need to know.

Daarom hoopt Hardawar dat we nieuwe en intelligentere manieren vinden om voorspellingen te doen. Evgeny Morozov schreef in Technology Review de volgende reflectie over algoritmes en wat het betekent als we algoritmes beslissingen laten maken:

Thanks to smartphones or Google Glass, we can now be pinged whenever we are about to do something stupid, unhealthy, or unsound. We wouldn’t necessarily need to know why the action would be wrong: The system’s algorithms do the moral calculus on their own. Citizens take on the role of information machines that feed the techno-bureaucratic complex with our data. And why wouldn’t we, if we are promised slimmer waistlines, cleaner air, or longer (and safer) lives in return?

Bovendien moeten we ons afvragen of we al die data wel aan bedrijven willen afgeven. MindMeld luistert nu alleen nog naar je videogesprekken maar wat als het programma de hele dag mee zou luisteren om zo op alles te kunnen anticiperen en je advies te kunnen geven. Denk bijvoorbeeld aan het Operating System Samantha in Spike Jonze’s film Her.

We zijn echter nog niet op het punt waarop we dat soort systemen kunnen maken en gebruiken. We hebben bijvoorbeeld nog geen batterijen die lang genoeg meegaan om zo’n service te kunnen ondersteunen. Bovendien roept software die altijd mee luistert allerlei vragen op over wat het betekent voor onze privacy. Een beetje zoals de lifelogging technologieën maar dan voor geluid.

Je vertrouwt je persoonlijke assistent met allerlei details die vervolgens worden bewaard door de organisaties die dit soort diensten aanbieden. Hardawar zegt daarover het volgende:

Today, we’re concerned about how companies are using our location data and communications metadata. In the future, we’ll have to watch out for how companies use practically everything we say and do.

Het neemt niet weg dat een persoonlijk assistent lastig te weerstaan zal zijn: altijd precies weten wat je hebt te besteden, je inbox georganiseerd en de perfecte playlist voor elk feestje. Voordat dit soort technologieën geïmplementeerd kunnen worden zal er echter nog veel moeten veranderen aan onze samenleving.