Deepfakes komen steeds vaker voor. Deze techniek, gebaseerd op kunstmatige intelligentie, worden foto’s en video’s gemanipuleerd. Daardoor kun je het bijvoorbeeld laten lijken alsof de koning iets zegt, terwijl je eigenlijk alleen zijn hoofd over een video van jezelf hebt geplakt. Amazon, Facebook en Microsoft zijn aan een strijd tegen deze techniek begonnen.
Facebook begon zijn strijd al enige tijd geleden onder de zogeheten Deepfake Detection Challenge, schrijft Engadget. Dit initiatief wil open source-tools gaan ontwikkelen, waarmee overheden, bedrijven en media-organisaties kunnen detecteren of een video gemanipuleerd is.
Het idee is dat de partners diverse tools en andere ondersteuning bieden, waarna mensen wereldwijd innovatieve technologieën kunnen bouwen om deepfakes te helpen detecteren. Iedereen kan straks dus aan de uitdaging meedoen.
De Deepfake Detection Challenge begon met steun van Microsoft, MIT, de New York Times en de University of Oxford. Nu heeft ook Amazon zich bij het initiatief aangesloten. Amazon wordt een technisch partner, maar ook lid van het committee dat toezicht houdt op het initiatief.
Credits en ondersteuning
Amazon levert vanaf nu machine learning-experts die technische ondersteuning gaan bieden. Daarnaast biedt het 1 miljoen dollar aan credits voor zijn cloud-dienst Amazon Web Services. Die credits zijn bedoeld voor teams die cloud-diensten nodig hebben om hun detectiewerk af te ronden.
De Deepfake Detection Challenge krijgt daarnaast twee nieuwe professoren als academische adviseurs. het gaat om Laura Leal-Taixé van de Technical University of Munich en Luisa Verdoliva van de University of Naples Federico II.
Facebook geeft de onderzoekers bovendien een aantal monsters die ze nodig hebben om deepfakes te detecteren. Het bedrijf maakt nu 5.000 voorbeeldvideo’s openbaar die gemaakt zijn voor de Challenge. Dat is slechts het begin, wat in totaal komen er 100.000 video’s. In december gaat de Challenge dan van start.