Op de een of andere manier krijg je op Facebook vrijwel nooit écht iets schokkends of onsmakelijks te zien. En als het er al even is, is Facebook er als de kippen bij om het te verwijderen. En dus zie je hoogst zelden dick pics of een oproep voor de gewapende strijd langskomen.
Facebook doet je denken dat haar algoritme daar wel voor zorgt. Maar de realiteit is een heel stuk rauwer en donkerder, zo laat de documentaire The Cleaners zien.
Out of sight, out of mind
Om er voor te zorgen dat onze tere zieltjes niet gekwetst worden, heeft Facebook de handmatige moderatie van haar platform uitbesteed aan bedrijven in lage lonen-landen. En dat betekent dat duizenden mensen in landen als de Filipijnen niets anders doen dan de hele dag onze uploads beoordelen.
En omdat het werk is uitbesteedt, staan de moderatoren niet op de loonlijst van Facebook. De commercial content moderators zijn onzichtbaar en dat is wel zo convenient. We behandelen ze als ons afvoerputje.
Delete, delete, ignore, delete, ignore
Maar het uitbesteden naar die lage-lonen landen heeft nog een voordeel voor Facebook: het zijn landen met lagere arbeidsstandaarden. De moderatoren moeten een target van 25.000 uploads per dag halen. Bij een Nederlandse werkdag is dat dus ongeveer één afbeelding per seconde om te boordelen. Delete. Delete. Ignore. Delete. Ignore.
En het gaat dat niet om kattenplaatjes, maar om beelden die door Facebook-gebruikers als aanstootgevend zijn aangemerkt, waaronder onthoofdingen, zelfmoorden en verkrachtingen. De hele dag door en zonder serieuze aandacht voor het psychische trauma van de moderatoren.
Amerikaanse normen
Het outsourcen van het smerige werk naar lage lonen-landen is niet de enige maatschappelijke impact van het mondiaal opererende bedrijf. Ook vertelt een van de moderatoren over de lijst van 37 organisaties die door de Verenigde Staten als terroristisch zijn aangemerkt: “You have to memorize everything […]. Memorize their flags, memorize their sayings.”
Het illustreert hoe Facebook Amerikaanse normen en waarden aan de rest van de wereld oplegt, zonder oog voor de lokale culturen. Dat is niet anders voor blote tepels of parodieën. Het bedrijf dicteert ons ons wereldbeeld, door te beslissen wat we wel en niet mogen zien.
Struinen door ons digitale afval
Je moet het ze nageven, de meeste moderatoren die in de documentaire aan het woord komen zijn vaak blij of zelfs trots op hun werk. Zonder baan zouden ze op de vuilnisbelt eindigen, op zoek naar iets waardevols tussen het afval. Deze baan, niet bij maar voor Facebook, geeft ze de kans om achter een beeldscherm te zitten en beter betaald te worden.
Toch verandert dat niet veel: nog altijd ploeteren ze op een vuilnisbelt door het afval. Maar nu is het niet meer het lokaal geproduceerde afval, maar het digitale afval van ons – want wijzelf zijn er te beroerd voor.