Numrush

Britse overheid heeft eigen kunstmatige intelligentie om extremistische video’s te detecteren

Britse vlag, Groot-Brittannië, VK

Tegenwoordig wordt er behoorlijk wat extremistische content verspreid op het internet. De techgiganten proberen dit tegen te gaan, maar volgens het Britse parlement blijven ze “constant falen”. Daarom heeft de overheid zelf een kunstmatige intelligentie ontwikkeld dat propaganda van IS kan detecteren met een succesratio van 99,99 procent.

De technologie analyseert video’s tijdens het uploaden. Zit er extremistische content in, dan verschijnen de beelden dus nooit op het internet. Dat tegenover de gemiddelde 36 uur die het techbedrijven kost om dit soort content te verwijderen. Volgens de overheid detecteert het programma bovendien automatisch 94 procent van de propaganda van IS, met een accuraatheid van 99,99 procent.

Het programma moet beschikbaar worden gemaakt voor alle internetplatformen. Daarbij gaat het met name om kleinere websites als Vimeo en pCloud, waar steeds meer IS-propaganda verschijnt. Volgens de Britse overheid gebruikten IS-sympathisanten vorig jaar ruim 400 unieke online platformen om propaganda te verspreiden.

Kritiek

Amber Rudd, de minister van Binnenlandse Zaken, heeft niet uitgesloten dat bedrijven gedwongen gaan worden om de technologie te gebruiken. “We gaan niet uitsluiten dat we wetten maken als we dat moeten doen. Maar ik blijf overtuigd dat de beste manier om echte actie te ondernemen – om de beste resultaten te krijgen – is om een forum geleid door de industrie te hebben, zoals we die nu hebben”, aldus Rudd.

De Open Rights Group is echter bezorgd over de technologie. Jim Killock schreef in een blogbericht: “We moeten ons zorgen maken over de ongewenste gevolgen van het offline halen van content door machines. Ten eerste dwingen we bedrijven om te bepalen wat legaal en illegaal is. Daarnaast maken alle systemen fouten en ze moeten verantwoordelijk worden gehouden. Fouten moeten zo min mogelijk voorkomen, maar ook rechtgezet worden.”

Hoe precies besloten wordt welke video’s wel en niet toegestaan zijn, heeft de Britse overheid niet bekendgemaakt. Ze zeggen echter dat uit een miljoen willekeurige video’s slechts vijftig nog eens extra door mensen bekeken moet worden.