Apple en privacy. Die woorden horen we de afgelopen twee jaar heel veel vaak in één zin. Apple wil de concurrentiestrijd met Google onder meer aangaan door zich te profileren als een bedrijf dat de privacy van gebruikers het allerbelangrijkste vindt. Dat zorgt echter voor problemen bij het trainen van deep learning-algoritmes. Apple laat deze algoritmes bijna allemaal lokaal op iPhones en Macs draaien in plaats van in de cloud. Maar om ze in te regelen zijn grote hoeveelheden trainingsdata nodig. Van gebruikers.
Op de WWDC twee weken geleden kondigde Apple daarom differential privacy aan als onderdeel van iOS 10. Korte samenvatting: het verzamelt data, maar bewerkt die op zo’n manier -nog voor het naar de server wordt verstuurd- dat deze nooit te herleiden is naar personen. Ook niet door bijvoorbeeld verschillende datasets te combineren. Recode heeft inmiddels wat meer details over hoe dit in praktijk gebruikt wordt. Belangrijk element: ook al garandeert Apple gebruikers hun privacy bij het verzamelen van deze data, er is nog steeds een mogelijk om je uit te schrijven.
Vier toepassingen
Apple gaat de met differential privacy verzamelde datasets in eerste instantie voor vier toepassingen gebruiken:
- Het herkennen van nieuwe woorden om deze toe te voegen aan lokale woordenboeken
- Het herkennen van woorden die bij emoji’s worden gebruikt, zodat in iMessage woorden kunnen worden vervangen door emoji’s
- Het herkennen van het gebruik van deeplinks binnen apps
- Het opzoeken van hints binnen de notities-app
Apple zegt verder dat het tot nu toe nooit grootschalig gebruikersdata heeft verzameld voor het trainen van algoritmes. Daarnaast zegt het bedrijf geen foto’s van gebruikers te gaan analyseren voor het trainen van de beeldherkenningsalgoritmes in de foto-app. Hiervoor worden andere datasets gebruikt.
Hoe je je precies uit kunt schrijven is onduidelijk. Waarschijnlijk komt er een schakelaar in het privacy-menu in de Instellingen-app te zitten in iOS 10. Deze nieuwe versie van Apple’s besturingssystemen voor iPhones en iPads komt in het najaar uit.