Facebook maakte vorige week bekend wat het gaat doen om de verspreiding van terroristische propaganda tegen te gaan. Google, en als onderdeel daarvan YouTube, heeft gisteren bekend gemaakt ook met een pakket maatregelen te komen. Het internetbedrijf beschrijft in een verklaring vier maatregelen die het neemt.
Google geeft aan dat het samenwerkt met overheden, opsporingsdiensten, maatschappelijke organisaties en andere techbedrijven bij deze aanpak.
Er is geen plek voor terroristische content op onze diensten. Ondanks het feit wij en anderen jaren hebben gewerkt aan het identificeren en verwijderen van content die onze regels overtreedt, is de ongemakkelijke waarheid dat wij, als industrie, moeten toevoegen dat we meer moeten doen. Nu.
Kunstmatige intelligentie
Het eerste wat Google gaat doen is het verbeteren van het herkennen van terroristische propaganda in video’s op YouTube. Via kunstmatige intelligentie probeert het de inhoud van video’s automatisch te bepalen en op basis daarvan krijgt een video eventueel een label dat het terroristische propaganda is. Deze video’s worden vervolgens offline gehaald.
Het internetbedrijf geeft echter ook aan hoe lastig het is om er voor te zorgen dat je hierbij geen false positives krijgt. Als de BBC een video van een terroristische aanslag uploadt, is er immers geen sprake van propaganda, maar van nieuwsvoorziening. Deze video moeten niet offline worden gehaald door de algoritmes, terwijl een video waarin een pro-IS-account de beelden deelt en de aanslag verheerlijkt wel moet verdwijnen.
YouTube Trusted Flagger
Een deel van dat werk kan Google daarom niet aan kunstmatige intelligentie over laten. En dus zet het bedrijf ook mensen in onder de noemer YouTube’s Trusted Flagger. Onafhankelijke experts beoordelen video’s in dit programma en kijken daarbij onder meer naar de vraag: valt een video onder nieuwsvoorziening of is het propaganda?
Google heeft tot nu toe goede ervaringen met dit programma. Het bedrijf stelt dat de experts tot nu toe 90 procent van de tijd een juiste inschatting maakten. Op dit moment doen er 63 maatschappelijke organisaties mee aan het YouTube’s Trusted Flagger-programma. Daar komen er nog eens 50 bij. De organisaties krijgen financiële steun om de kosten te dekken die ze maken voor het werk dat ze doen.
Grensgevallen
Naast deze maatregelen om video’s offline te halen, gaat YouTube ook zijn beleid ten opzichte van grensgevallen veranderen. Daarbij moet je volgens Google bijvoorbeeld denken aan video’s die opruiende religieuze boodschappen bevatten of één bevolkingsgroep verheerlijken boven de rest. Deze video’s zullen worden voorzien van een waarschuwingslabel en reacties en likes zullen worden uitgeschakeld. Ook wordt de mogelijkheid om geld te verdienen met de advertenties bij deze video’s uitgeschakeld.
“We denken daarmee de juiste balans te hebben gevonden tussen de vrijheid van meningsuiting en het toegang bieden tot informatie zonder extremistische denkbeelden te promoten”, zegt Google daar over.
Redirect Method
Ten slotte gaat YouTube ook meer doen om initiatieven te steunen die helpen om radicalisering aan te pakken. Zo worden YouTubers die strijden tegen haat en radicalisatie gesteund via het Creators for Change-programma. En Google zet gerichte advertenties in om potentiële IS-aanhangers naar anti-terroristische video’s te verwijzen.
Of deze zogeheten ‘Redirect Method’ werkt, is moeilijk vast te stellen. Het bedrijf zegt echter wel dat er veel wordt geklikt op deze advertenties en er vervolgens ook veel naar de video’s werd gekeken. Deze technologie is al in een aantal Europese landen gebruikt en zal verder worden uitgerold.
Vorige week plaatste Facebook al een zelfde soort verklaring online als Google zondag deed. Daarin legde het bedrijf uit hoe het via kunstmatige intelligentie terroristische propaganda offline haalt, inclusief volledige pagina’s en groepen. Ook doet het zijn best om nepaccounts zo snel mogelijk te identificeren en te verwijderen, om te voorkomen dat mensen met een nieuwe account steeds weer ruim de tijd hebben om extremistische content te delen.
Net als Google zet Facebook ook mensen in om terroristische propaganda aan te pakken. Het bedrijf heeft inmiddels een team van 150 man dat hier fulltime mee bezig is. Daarnaast steunt Facebook diverse maatschappelijke organisaties en initiatieven die extremisme op internet aanpakken.