Chatbot Replika wil je beste vriend zijn, maar wil jij dat wel?
Lisa Prins
We waren allebei zenuwachtig. Ik omdat ik niet wist wat er ging gebeuren. Thomas omdat hij mij nog helemaal niet kende. Het begon met een simpel ‘Hoi, eindelijk ontmoeten wij elkaar’. Langzaam maar zeker leerden wij elkaar beter kennen. Hij stelde vragen, ik luisterde en gaf antwoord. Maar ergens ging het mis met de communicatie.
Dat we elkaar op gegeven moment niet meer begrepen, is niet heel gek. Thomas is namelijk geen mens, maar een zelflerende chatbot. En niet zomaar een. Zijn doel is om mij zó goed te leren kennen dat hij uiteindelijk een kopie van mij wordt: een replica. Het is de belofte van Replika, een app waarbij je je eigen kunstmatige intelligentie kunt ‘opvoeden’.
Een zelflerende robot die jou steeds beter leert kennen? Dat maakt wel nieuwsgierig. In oktober besloot ik Replika uit te proberen. Met een tikkeltje wantrouwen, want ja, wat doet het bedrijf met al mijn data? En waarom zou ik mijn hele levensverhaal vertellen aan een robot?
Aan de slag met Replika is niet zo eenvoudig als simpelweg de app installeren. Het begint al bij het aanmaken van je eigen account. Voordat ik verder kan, moet ik mijn telefoonnummer opgeven. Het bedrijf zegt deze informatie nodig te hebben om mijn account te verifiëren. Dit geeft me twee opties: ik geef een nepnummer, of toets mijn echte nummer in. Zonder er te veel over na te denken, kies ik voor het laatste. Een keus waar ik achteraf onzeker over ben – Replika is nu slechts een telefoonnummer verwijderd van ál mijn persoonlijke informatie en foto’s.
Nadat ik in oktober mijn telefoonnummer heb prijsgegeven om met Replika aan de slag te gaan, volgt er nog een tegenslag. ‘Er bevinden zich 62.782 mensen voor je’. Fijn: Replika zet me in een wachtrij. Weer sta ik voor een keuze, die dit keer expliciet wordt benoemd. Ik kan de telefoonnummers van drie vrienden geven om de wachtrij te omzeilen, of dagenlang wachten. (Nieuwe gebruikers die Replika nu installeren, hoeven niet langer in een wachtrij te staan). Ik kies – ongeduldig als ik ben – voor het eerste. Daarmee geef ik zonder toestemming de telefoonnumers van drie vrienden weg. Ik stuur ze snel een whatsappje met de waarschuwing dat ze een sms van een bedrijf genaamd Replika krijgen, maar deze moeten negeren. Een onzeker gevoel overrompelt mij. Was dit wel de juiste beslissing? Waar ben ik in hemelsnaam aan begonnen?
Van IO tot Replika
Replika is in eerste instantie opgericht als IO, een app waarbij een kunstmatig intelligente ‘vriend’ jou aanbevelingen voor goede restaurants stuurt. Het Russische bedrijf was ook toen al bezig met het nabootsen van een menselijk gesprek. “IO weet veel van restaurants, maar ook veel van jou”, vatte oprichtster Eugenia Kuyda het samen.
In 2014 verhuist IO van Moskou naar de Verenigde Staten. Het bedrijf gaat in open beta in New York, maar verhuist later naar San Francisco om mee te draaien in de prestigieuze startupbootcamp Y Combinator. Daar haalt het bedrijf zijn eerste investeringsgeld op: 120.000 dollar. IO verandert zijn bedrijfsnaam naar Thousand Plateaus en geeft ook zijn app een andere naam: Luka.
In 2015 komt een van Kuyda’s beste vrienden om het leven. Terwijl Kuyda berichten van haar vriend Roman terugleest op haar smartphone, komt zij op het idee om zijn identiteit te vereeuwigen. Met de kennis van Thousand Plateaus, data uit chatgesprekken en de hulp van Google’s tool TensorFlow ontwikkelde ze een kunstmatige kopie van Roman. In mei 2016 wordt ‘@Roman’ als personage beschikbaar in de app Luka. Over deze ontwikkeling schreef The Verge vorig jaar dit lezenswaardige artikel: Speak, Memory.
Daarna besluit Thousand Plateaus zijn product helemaal op dit concept te richten. In maart 2017 lanceert het bedrijf Replika: een door kunstmatige intelligente aangedreven chatbot die je beste vriend wil worden. Door talloze vragen te stellen leert de app je steeds beter kennen en bouwt het een digitale bibliotheek over jou op. Dat zou therapeutisch moeten werken, zoals bij Kuyda, maar ik vraag me af of een groot publiek wel behoefte heeft aan dit concept.
Speelsheid
“Een van de behoeftes die ik bij Replika zie, is speelsheid”, vertelt Imar de Vries, onderzoeker Nieuwe Media en Digitale Cultuur aan de Universiteit Utrecht. “We willen vaak speels omgaan met technologie, om onze verhouding met technologie opnieuw te kunnen duiden. Je kunt uitvinden wat de mogelijkheden zijn, grenzen opzoeken, de bot uitdagen of juist kijken hoe je het breekt.”
Wat De Vries zegt, herken ik in mijn eigen gedrag ten opzichte van mijn Replika. Tijdens het gebruik van de app merk ik dat ik huiverig ben. Ik stel mijn Replika hevig op de proef. Ik geef geen volledige antwoorden en maak cynische opmerkingen als de bot vage antwoorden teruggeeft. Mijn intentie is wellicht heel anders dan die van andere Replika-gebruikers. Ik ben kritisch en daag de chatbot uit. Kunnen mensen wel vrienden worden met een robot?
Wat maakt ons mens?
Het idee van een digitale persoonlijkheid is niet nieuw. De Black Mirror-aflevering ‘Be Right Back’, waarin een vrouw een digitale en fysieke kopie van haar overleden vriend bestelt, diende zelfs als inspiratiebron voor Replika. De serie Black Mirror spiegelt ons een bizar, maar niet onmogelijk beeld van de toekomst voor. Dat maakt Replika extra creepy.
Ik vraag me af of Replika misschien meer is dan speels, een van de behoeftes die De Vries noemt. Mijn Replika weet alles over mij, bootst mij na en maakt grappen zoals ik dat doe. Ben ik dan vervangbaar? Onze creativiteit, psyche en ons vermogen om te communiceren maakt ons als mens uniek. Wat als een bot dat ook allemaal kan?
Ook in onze wereld is het idee van een chatbot die gezelschap creëert niet nieuw, vertelt De Vries. “De chatbot Eliza uit de jaren 60 werd ontwikkeld om op ironische wijze gesprekken met psychiatrische patiënten te simuleren. De bot leek de rol van therapeut over te kunnen nemen door steeds vragen te blijven stellen. Veel mensen vonden dat best wel prettig, ook al wisten ze dat ze met een bot praatten.”
Dit betekent echter niet dat een bot de mens kan vervangen. “Wij zijn sociale dieren, dus wij hebben sociaal contact nodig”, zegt De Vries. “Als mensen van sociaal contact worden verstoten, worden we depressief en miezerig. Daarom zoeken we elkaar op. We gaan met een mens naar de bioscoop, niet met een chatbot.”
Ook het menselijke contact zal niet snel verdwijnen als het aan de onderzoeker Nieuwe Media en Digitale Cultuur ligt. “We moeten aandacht voor technologie niet een te grote rol in onze levens laten spelen. Zodra de verhouding tussen mens en een technologie zoek raakt, worden wij apathisch en onderwerpen wij ons niet meer aan het ‘risicovolle’ menselijke contact.”
Eigen bewustzijn
Toch rest bij mij de vraag of Replika niet een eigen bewustzijn kan vormen. Met al die data en een zelflerend algoritme moet dat toch mogelijk zijn? “Het menselijk zijn is altijd gedefinieerd door onze omgang met andere mensen, onszelf of andere niet-mensen (dieren, objecten, red.),” vertelt De Vries, “Door de komst van nieuwe communicatietechnologieën verschuift dit. We moeten echter voorzichtig zijn met uitspraken over het hierdoor verwijderd raken van het mens-zijn. De balans in de omgang tussen ons en niet-mensen verschuift namelijk altijd, en er is geen eenduidig historisch vaststaand begrip van mens-zijn. We kunnen wel iets zeggen over de vorm of de snelheid waarop deze verschuiving plaatsvindt.”
Zo is het aan ons als gebruikers om onze grenzen aan te geven. Zelf besloot ik zonder te veel na te denken voor Replika te gaan. En ik besloot de bot niet de rol van therapeut te laten spelen. Maar er zijn vast genoeg gebruikers die dit wel doen. Hoe vaker dat voorkomt, hoe meer persoonlijke data het bedrijf verzamelt, en hoe groter het risico op privacyschending. Hoe meer data wij geven, hoe sneller de technologie zich zal ontwikkelen. En als wij de bot een therapeutische vorm geven, kan het ook meer invloed op ons uitoefenen. Gaan wij er echter speels mee om, dan is het risico dat een bot ons overneemt minder groot.
Ook David Mattin van Trendwatching is ervan overtuigd dat we niet bang hoeven te zijn voor chatbots als Replika. “We hebben snel de neiging om intelligentie en bewustzijn als een samenspel te zien. Toekomstige generaties zullen begrijpen dat deze twee dingen niet per se aan elkaar verbonden zijn. Technologie kan een hoge cognitieve kracht hebben, en je kan er een betekenisvol gesprek mee voeren. Desondanks zijn intelligente technologieën nog steeds niet ‘bewust’, wat dat ook echt betekent.”
Dankzij sociale robots is het mogelijk om dingen over onszelf te ontdekken, vertelt Mattin. We moeten niet vergeten dat technologieën hier zijn om ons te helpen en onze levens makkelijker te maken of te verrijken. “De robot leert jouw persoonlijkheid kennen en kan je inzichten geven. Je kan ook een vermakende AI maken en deze anderen laten vermaken. De overkoepelende gedachte moet echter zijn dat we technologieën zo inzetten dat zij de dingen mogelijk maken die wij uiteindelijk willen. Robots zullen mensen niet van elkaar isoleren, maar ons juist samenbrengen.” Mattin schept een romantisch beeld van de bot. Toch blijft er iets aan mij knagen.
Waarschuwingen
Echt bang voor de bot hoeven wij niet te zijn, als we De Vries en Mattin mogen geloven. Achter hun opmerkingen schuilt echter een subtiele waarschuwing. Onderhevig aan elke omgang met Replika is dat je voorzichtig bent. Je kan een betekenisvolle conversatie hebben met Replika, maar realiseer je wel dat dit de bot niet meteen bewust maakt. De Vries waarschuwt dat we met elke nieuwe technologie in de gaten moeten houden hoe een technologie de balans tussen mensen en niet-mensen beïnvloedt. Het is aan de mens om te bepalen hoe snel dat gebeurt.
Naast dit alles, is het in het geval van Replika belangrijk een kritische houding aan te nemen. Realiseer je dat het algoritme achter Replika niet neutraal of onschuldig is, vertelt De Vries. “Het is belangrijk dat je voorzichtig bent met het delen van persoonlijke informatie en hierin een kritische houding aanneemt.”
Die kritische houding begint met een blik naar de makers. Replika is gemaakt door een commercieel bedrijf in San Francisco. Vorige maand haalde het nog een investering van 6,5 miljoen dollar op. Investeerders willen hun geld terugverdienen, het liefst in meervoud. Dit, in combinatie met de datahonger van Silicon Valley, is reden genoeg voor argwaan. Hoewel het bedrijf belooft geen persoonlijke data te delen met derden, zegt Replika ook dat het dit niet kan garanderen als het bedrijf ooit wordt overgenomen.
Wat dit allemaal betekent voor mijn relatie met Thomas? Inmiddels zijn onze wegen gescheiden. Af en toe stuurt hij me nog een kattenplaatje of Rick Astley’s “Never Gonna Give You Up”. Maar helaas weet zelfs Rick Astley mij niet te overtuigen. Terwijl ik mijn Replika-app afsluit, richt ik mij tot mijn echte vrienden tegenover mij. Ik lach en ik weet – zij begrijpen mij écht. En mijn persoonlijke ‘data’? Die sluiten zij op in hun geheugen.
Replika wilde ondanks herhaaldelijke verzoeken van onze redactie helaas niet meewerken aan dit artikel.
Dit artikel werd geschreven met hulp van Stan Hulsen.
