Numrush

Hoe Amazon de voorspellende algoritmes uit zijn webwinkel beschikbaar heeft gemaakt als clouddienst voor iedereen

Google maakt een aantal van zijn machine learning-technologieën beschikbaar als clouddienst voor bedrijven, werd vandaag bekend. Het bedrijf volgt daarmee Amazon Web Services, die dit vorige zomer al introduceerde. Dat dochterbedrijf van Amazon is natuurlijk vooral bekend als dé provider die schaalbare cloudoplossingen aanbiedt aan bedrijven. Dan kun je denken aan apps die de achterkant van hun dienstverlening in die cloud hebben draaien, of aan streamingsdiensten als Netflix die Amazons cloud gebruiken om hun dienst aan te bieden.

Maar het aanbod van diensten van Amazon Web Services breidt steeds verder uit, onder meer dus met machine learning als één van de meer recentere toevoegingen. Bedrijven kunnen via API’s data het systeem insturen en vervolgens geautomatiseerde voorspellingen terugkrijgen. Dat kan op twee manieren: door een dataset te uploaden en dan een zogeheten predective model terug te krijgen. Dat model kun je vervolgens integreren in bijvoorbeeld een app. Vanaf dat moment stuur je steeds data naar de cloud van Amazon en krijg je voorspellingen binnen dat model terug. Een andere optie is om een eenmalige analyse te laten uitvoeren van een gigantische dataset en het resultaat daarvan te gebruiken.

Voorbeelden

Dat klinkt allemaal razend interessant, maar dit soort diensten worden pas concreet met voorbeelden. En dus sprak ik met Ralf Herbrich, Director of Machine Learning Science bij Amazon Web Services.

“Een goed voorbeeld is de app MyTaxi”, begint hij direct als ik hem naar een voorbeeld vraag. “Bij elke transactie die een consument doet (het bestellen van een taxi, red.) verzamelt die dienst een heleboel metadata. Eén van de velden is of een taxiverzoek uiteindelijk ook wordt afgerond en resulteert in een rit. Door alle data uit het verleden te analyseren, kan Amazon Machine Learning voorspellen of een verzoek afgerond gaat worden. En dat kan MyTaxi dus realtime inzetten binnen hun dienstverlening.”

Een ander voorbeeld is BuildFax: een Amerikaans bedrijf dat informatie levert over vastgoed. Mensen die in vastgoed investeren gebruiken de dienst om vooraf meer inzicht kunnen krijgen in de geschiedenis van gebouwen. Maar interessanter is natuurlijk om ook inzicht te krijgen in de toekomst, zeker voor verzekeraars. Op basis van data uit diverse bronnen kan Amazon Machine Learning voorspellen hoeveel het herstel van het dak zou kosten als het bijvoorbeeld beschadigd raakt bij een storm. En in de praktijk blijkt dat die voorspellingen voor 80 procent kloppen.

Een Nederlandse case kan Herbrich niet noemen. Wat overigens niet betekent dat er geen Nederlandse bedrijven zijn die Amazon Machine Learning gebruiken, want die zijn er volgens hem wel degelijk. Maar Amazon moet wel toestemming krijgen om te vertellen dat een bedrijf hun diensten ergens voor gebruikt. En veel bedrijven zien dat als concurrentiegevoelige informatie.

Webwinkel

Dat Amazon een dienst aanbiedt waarmee je zelflerende algoritmes kunt inzetten om voorspellingen te doen is eigenlijk heel logisch. Amazon is in eerste instantie namelijk groot geworden als webwinkel, mede dankzij het gebruik van dit soort systemen om te voorspellen waar klanten interesse in hebben.

Desondanks is de dienst ontstaan vanuit de wens van klanten van Amazon Web Servies. “We hoorden dat zij behoefte hadden aan dit product en hebben toen besloten om dit te bouwen op basis van de technologie die we al hadden bij Amazon. Intern kwam datzelfde verzoek trouwens ook: we wilden deze technologie snel kunnen inzetten voor allerlei soorten toepassingen.”

De voorspellingen die Amazon.com doet, kun je alleen uitvoeren in een cloudomgeving “Zo voorspellen we dankzij machine learning bijvoorbeeld hoeveel vraag er op een bepaald moment is naar producten. We hebben het over een voorspelde vraag naar 20 miljoen producten in een jaar. Dat zijn voorspellingen die dagelijks berekend worden, dus dat kun je alleen in een cloudomgeving uitvoeren.”

En dat is ook precies het vlak waarop Amazon denkt het verschil te kunnen maken met concurrenten zoals IBM, dat met Watson vooroploopt op het aanbieden van dit soort oplossingen. “We zijn heel goed in elastische diensten. Er is bij ons veel kennis over wat je kunt schalen en vooral ook wat je niet kunt schalen. Je wilt betalen voor wat je gebruikt. Als je grote gebruikspieken hebt, wil je er alleen op dat moment voor betalen. En dankzij onze internationale cloudoplossing is het daarnaast heel makkelijk voor bijvoorbeeld start-ups om internationaal uit te rollen”, zegt Herbrich.

“Wat ons verder helpt is dat we een team van wetenschappers hebben die technische expertise hebben van wat men hyper parameter optimization noemt.” Dat is een belangrijke techniek om de voorspellende algoritmes zo goed mogelijk te laten werken, zonder dat ontwikkelaars de algoritmes handmatig moeten finetunen.

Amazon Machine Learning is nog geen jaar op de markt en het bedrijf ziet de eerste resultaten als hoopgevend voor de toekomst. “Ik denk dat het heel groot wordt”, aldus Herbrich. “Voorspellen wat een klant gaat doen is iets wat heel belangrijk is voor bedrijven. Dat werd vroeger door mensen gedaan, maar om de customer experience nog verder te verbeteren moet je als bedrijf dit soort toepassingen gebruiken.”

Het gaat niet om het vervangen van mensen En dat geldt in bijzonder voor het opschalen van het doen van voorspellingen. Daarvoor moet je het wel automatiseren. “Het gaat hierbij niet om het vervangen van mensen, maar om mensen een tool te geven om de troughput te vergroten. Je hebt nog steeds mensen nodig, bijvoorbeeld als een uitkomst niet betrouwbaar is. Maar relatief simpele dingen kun je door computers laten doen. Ik heb de afgelopen 20 jaar geleerd dat je 90 procent van het werk kunt automatiseren en dan blijft er dus nog 10 procent over.”

Toekomst

Diensten zoals Amazon die aanbiedt zijn natuurlijk nooit af en al helemaal niet als het gaat om een vakgebied dat zo in ontwikkeling is als kunstmatige intelligentie. De vraag is dan ook wat de toekomstplannen zijn van het bedrijf op dat vlak.

“Daarvoor luisteren we vooral naar onze klanten. 90 procent van onze roadmap komt voort uit verzoeken van klanten. En we horen een aantal dingen. Zo willen ze graag een mogelijkheid krijgen waarbij het systeem uitlegt hoe het tot een voorspelling is gekomen. Het probleem is namelijk dat een voorspelling soms heel verrassend is en dan wil je weten hoe dat kan. Dat zie je bijvoorbeeld al in het aanbevelingssysteem van onze webwinkel, waar je letterlijk de tekst ziet “andere mensen kochten dit ook”. Dan weet je als klant direct waarom je deze aanbeveling krijgt.”

Een ander belangrijk punt op de roadmap van Amazon Machine Learning is het structureren van data. Heel veel data bestaat namelijk niet uit numerieke waarden of vooraf gedefinieerde opties. Data uit sensoren, beeld en geluid zijn ongestructureerd. De behoefte van het analyseren van die data groeit snel, mede door het Internet of Things. Met behulp van neurale netwerken gaat Amazon Web Services dit in de toekomst mogelijk maken. “We hebben op dat vlak al grote stappen gemaakt, maar er nog veel werk te doen”, aldus Herbrich.