Wie beschermt de bewakers van het internet? Moderator Daniel Motaung brengt Meta voor de rechter in Kenia

Op zoek naar een spannende en zinvolle baan? Dan is die van ‘contentmoderator’ misschien wel iets voor jou. Of daar willen honderden rekruteringsbedrijven je toch graag van overtuigen:

‘Begin aan een nieuw avontuur in Lissabon als contentmoderator bij Pinterest of een ander bekend socialemediaplatform: Als contentmoderator maak jij deel uit van een gezellig internationaal team. Je kunt kiezen uit verschillende projecten, waaronder Pinterest en diverse andere welbekende socialemediaplatformen. Je houdt je bezig met het controleren en filteren van Nederlandstalige content en zorgt ervoor dat het platform vrij blijft van ongewenst gedrag. Samen met jouw collega’s ga jij internetcriminaliteit en cyberpesten tegen en zorg jij ervoor dat social media leuk blijven!’

Bij elk incident volgt een roep om meer moderatie. Maar hoe we het werk verbonden aan die opdracht kunnen organiseren op een menswaardige manier, is een minstens even belangrijke vraag.

Deze wervende advertentie circuleert bij Nederlandstalige gebruikers op hun sociale media. Ze schetst een aantrekkelijk plaatje, van een zinvolle job in een bruisende Zuid-Europese hoofdstad. Zo stelt Working Adventures, het bedrijf achter de vacature, het modereren van de berichten van miljoenen socialemediagebruikers voor.

Zonder filters en moderatie zijn sociale media gedoemd om ten onder te gaan. Het moet gebruikers en de platformen zelf beschermen, door toxische inhoud weg te filteren, te controleren en indien nodig te verwijderen. Artificiële intelligentie kan bij sommige platformen wel een eerste buffer zijn schadelijke berichten. En meldingen door bezorgde gebruikers werken als een tweede dam. Maar uiteindelijk belanden die berichten ter nazicht bij een mens van vlees en bloed: de contentmoderator. Die kijkt, en beslist met een muisklik of de inhoud verwijderd moet worden of opnieuw online kan.

Bij elk incident van desinformatie, fake news of gevaarlijke inhoud volgt een roep om meer moderatie. Maar hoe we het werk verbonden aan die opdracht kunnen organiseren op een menswaardige manier, is een minstens even belangrijke vraag.

Vage beschrijving

Het bedrijf achter de advertentie, Working Adventures, doet niet meer dan rekruteren voor anderen. Voor welk bedrijf je precies zou werken, geeft de advertentie niet mee. Niet rechtstreeks voor de platformen, want die besteden het modereren uit aan bedrijven in onderaanneming. Working Adventures blijft, net als de platformen zelf, liever discreet over met welke bedrijven het hiervoor in zee gaat.

‘Meta werkt samen met bedrijven die meer dan 15.000 beoordelaars in dienst hebben, die helpen om schadelijke inhoud op de platformen tegen te gaan’, legt een externe pr-consultant – die zelf ook in onderaanneming werkt – voor Meta in België uit. ‘De beoordelingsteams zijn overal ter wereld actief en beoordelen inhoud 24 uur per dag, zeven dagen per week. Dat doen ze wereldwijd op meer dan twintig locaties, waar deze teams inhoud kunnen beoordelen in meer dan vijftig talen.’ Om welke bedrijven het precies gaat, kan men omwille van privacyredenen niet delen, zegt de consultant.

We doen ons via de online chat met een medewerker voor als geïnteresseerde sollicitant om vragen te stellen over de advertentie. Voor welk bedrijf Working Adventures de aanwervingen precies organiseert? Die vraag kan pas later in de selectieprocedure beantwoord worden, klinkt het.

Toxische beelden

Honderden gelijkaardige advertenties, gepubliceerd door verschillende rekruteringsbedrijven, zoeken werkwilligen in zowat alle grote talen. Ze worden allemaal gekenmerkt door dezelfde vaagheid. In zijn advertentie vermeldt Working Adventures enkel Pinterest met naam en toenaam, naast ‘andere socialemediaplatformen’.

Niet toevallig belicht het net dát sociale medium, dat niet onmiddellijk bekendstaat om de meest toxische inhoud. In werkelijkheid wordt gezocht naar contentmoderatoren voor verschillende media, ook Whatsapp, Facebook, TikTok en Twitter bijvoorbeeld. Werknemers voor die platformen krijgen geregeld erg gruwelijke berichten onder ogen. Ze moeten bijvoorbeld gewelddadige beelden van moord, misbruik of kinderporno bekijken en beoordelen.

Europese advertenties voor contentmoderatoren leiden vandaag wel vaker naar Lissabon, waar onder meer het internationale bedrijf Majorel een afdeling heeft. De Luxemburgse onderneming neemt van bedrijven wereldwijd klantendiensten uit handen. Maar op haar eigen website pakt ze ook uit met haar leiderschap in de groeiende markt van contentmoderatie. Samen met bedrijven als Teleperfomance, Concentrix, Accenture en Genpact behoort ze tot de marktleiders in het uitvoeren in een broodnodige maar vaak gruwelijke opdracht.

Om de inhoud te beoordelen, moet een moderator goed begrijpen wat hij of zij ziet, hoort of leest. Daarom zoeken bedrijven werknemers uit verschillende taalgroepen voor hun meertalige regionale hubs. Voor het Afrikaanse continent is de Keniaanse hoofdstad Nairobi, ook wel Silicon Savannah genoemd, een van die hubs.

Nairobi is een belangrijke regionale uitvalsbasis voor de internationale IT- en techindustrie. De overheid investeerde er het afgelopen decennium fors in het aantrekken van internationale bedrijven. Google, Microsoft, en recenter ook onderaannemers van socialemediabedrijven hebben er voet de aan grond. Ook OpenAI, het bedrijf achter de artificiële chatbot ChatGPT, outsourcete de taak om de resultaten op problematisch taalgebruik te controleren naar Kenia.

Vier jaar geleden botste Daniel Motaung op een online advertentie die hem een goede job beloofde in Nairobi. De Zuid-Afrikaan was net afgestudeerd en zocht werk, legt hij uit aan MO*. ‘Ik droomde zeker niet van migreren naar Kenia. Ik wist niets over Nairobi. Maar ik zocht gewoon een eerste werkervaring. Ik ben in armoede opgegroeid. Als je arm bent, neem je eender welke job aan, toch?’

‘Ik ken de details niet meer van de advertentie. Maar ik ben wel zeker dat men niet sprak over contentmoderatie. Wel over een administratieve baan in de IT-sector.’ Het rekruteringsbedrijf dekte zijn reiskosten, zorgde voor een werkvisum en bood hem gratis verblijf voor de eerste maand.

Zo ging Motaung in 2019 aan de slag bij de Keniaanse afdeling van het Amerikaanse techbedrijf Sama. ‘Het was pas op de eerste werkdag dat ik ontdekte wat de jobinhoud precies was.’ Al op die eerste werkdag kreeg hij beelden van een onthoofding onder ogen.

‘Pas nadat ik al ontslagen was, kwam ik te weten dat ik PTSS (posttraumatische stressstoornis) had door dagelijks toxische beelden te bekijken.’

Na zijn eerste maand moest Daniel op zoek naar een eigen verblijf en belandde hij in de sloppenwijk Pipeline. ‘Dit is geen fijne plek om te wonen’, legt hij uit. ‘Het is een buurt vol prostitutie, overdadig alcoholgebruik, misdaad, kortom: alles waar iemand die migreert niet naar op zoek is. Maar het was er goedkoop.’

Wilde hij op een betere plek wonen met het loon dat hij bij Sama betaald kreeg, dan zou hij niet meer kunnen sparen’, legt hij uit. ‘Mijn enige doel was uit de armoede raken. En daarvoor moest ik wat kunnen sparen. Daarom woonde ik daar. Maar zelfs op die manier is het me uiteindelijk niet gelukt uit de armoede te raken.’

© Aart Verrips (Agent Emma Artist Management)

Al snel ging het niet goed met Motaung, al begreep hij pas later hoe ernstig het was: ‘Pas nadat ik al ontslagen was, kwam ik te weten dat ik PTSS (posttraumatische stressstoornis, red.) had door dagelijks toxische beelden te bekijken.’ Al na enkele dagen aan de slag bij Sama ging zijn mentale toestand achteruit. Hij begon ook steeds meer te drinken.

‘Contentmoderatoren in het Globale Noorden lopen ook PTSS op, laat dat duidelijk zijn. Maar wij bij Sama waren de slechtst betaalde moderatoren in de wereld. Daardoor moest ik wonen in een sloppenwijk die door misdaad gekenmerkt wordt. Dat kwam nog eens boven op die mentale problemen die inherent zijn aan de job.’

‘Nee, ondanks de gruwel wou ik die baan ook niet kwijt. Om dat te begrijpen, moet je de armoedecontext begrijpen. Het was kiezen tussen dát of de honger.’ Ontslag nemen deed Motaung niet, maar hij richtte wel een whatsappgroep op, The Alliance. Daarmee verenigde hij collega’s rond de vraag voor een betere verloning en gezondere werkomstandigheden. In de zomer van 2019 dreigde de groep met een staking om hun eisen kracht bij te zetten. Twee leidinggevenden uit het Californische hoofdkantoor vlogen over. Maar tot een overleg kwam het niet. Daniel werd aan de deur gezet en de andere medewerkers konden kiezen tussen hun protest staken en weer aan de slag gaan, of zelf opstappen.

Laag loon, grote belasting

Pas vorig jaar kreeg het verhaal van Motaung en Sama internationale zichtbaarheid. Via het Amerikaanse magazine Time kwam Motaung toen als klokkenluider naar buiten. Time sprak nog tientallen andere, anonieme medewerkers van Sama. Die bevestigden zijn verhaal over de onmenselijke werktaken, slechte verloning en gebrekkige ondersteuning.

Sindsdien rommelt het in Nairobi. Met de reportage Inside Facebook’s African Sweatshop doorprikte Time het verhaal waarmee Sama op de eigen website uitpakt. De zelfverklaarde ethische onderneming die in een reactie beweert ‘meer dan 59.000 mensen in ontwikkelingslanden uit de armoede te hebben geholpen’, bleek in Nairobi minder fraai met kritische werknemers om te gaan.

Sama verdedigde zich: het bedrijf zou een loon betalen van drie keer het Keniaanse minimumloon en twee keer het leefbare loon. Dat minimumloon bedroeg in 2019 ongeveer 106,5 euro per maand. Ook verwijst Sama in zijn reactie naar de therapeuten die steeds beschikbaar zouden zijn om de medewerkers mentaal bijstaan.

‘Hoe sterk je ook bent, uiteindelijk zal deze baan je opbranden en zal je mentale problemen krijgen. Omdat het werk nu eenmaal toxisch van aard is.’

Time maakte zelf de berekening: de Keniaanse contentbeheerders werden inderdaad meer betaald dan het wettelijke minimumloon, maar dat was nog steeds slechts 1,35 euro per uur. ‘Ook de psychologische zorg was veruit onvoldoende’, vult Motaung zelf aan. ‘Er waren bij Sama inderdaad “wellnesscoaches”, maar dat zijn geen professionele psychiaters of psychologen. Het is een functie die het bedrijf zelf gecreëerd heeft om aan de buitenwereld te tonen dat het zogenaamd zorgt voor het welzijn.’

Een keer per week had Motaung toegang tot een individueel contact met zo’n wellnesscoach, en een keer per week werd een activiteit in teamverband georganiseerd. ‘Noem het eerder teambuilding’, omschrijft hij. ‘Doordat ik nu behandeld word voor PTSS, begrijp ik hoe belangrijk professionele hulp en een individuele aanpak zijn. Er is geen eenvormige aanpak om PTSS te behandelen.’

Om deze job te kunnen doen, kan je volgens hem niet zonder professionele psychologische bijstand die 24 uur op 24, zeven dagen op zeven beschikbaar is. ‘De mentale grens is bij iedereen verschillend. Maar uiteindelijk, hoe sterk je ook bent, zal deze baan je opbranden en zal je mentale problemen krijgen. Omdat het werk nu eenmaal toxisch van aard is.’

Volgens Motaung gaat de vergelijking wel op met politiemensen, die voor een onderzoek beelden van onder andere kindermisbruik moeten bekijken. Net als op zijn voormalige job moet ook daar íemand het doen, in het belang van het onderzoek. Maar voor deze onderzoekers wordt vaak de tijd begrensd waarbinnen ze dergelijke beelden mogen bekijken en is de klok rond bijstand beschikbaar. ‘Als je na je werk naar huis gaat en overmand wordt door gevoelens van angst of neerslachtigheid, omdat je te lang blootgesteld werd aan de beelden, dan moet je iemand kunnen bellen.’

Een eerste stap

De ophef die ontstond nadat Motaung zijn verhaal deed in Time, zorgde voor reputatieschade bij Sama en bij Meta, het moederbedrijf van Facebook, WhatsApp en Instagram. Na zijn getuigenis kreeg Motaung steun van mensenrechtenorganisaties om een rechtszaak te kunnen aanspannen tegen de twee bedrijven. De rechtszaak waarin Meta en Sama zich moeten verdedigen tegen de beschuldigingen van mensenhandel en vakbondsonderdrukking is ondertussen aanhangig gemaakt bij de Keniaanse arbeids- en ondernemingsrechtbank.

De zaak kan wereldwijd een primeur zijn voor de hele sector van contentmoderatie, gelooft men bij Foxglove. Die Britse ngo strijdt voor eerlijke praktijken in de techindustrie en steunt de rechtszaak van de klokkenluider.

‘In armoede heb je weinig andere keuze dan te vechten voor het behoud van je baan. Pas in tweede instantie kan je, zoals ik probeerde in 2019, strijden voor betere voorwaarden.’

Meta argumenteerde dat het bedrijf niet onderhevig is aan het Keniaanse recht, gezien het zelf geen zetel heeft in het land. De Keniaanse rechtbank veegde dat argument dit voorjaar van tafel. Meta zal zich dus binnenkort voor de arbeidsrechtbank moeten verdedigen in de zaak.

‘Historisch’, reageerde Irungu Houghton, directeur van Amnesty International Kenia in een persbericht: ‘Was Meta geslaagd in zijn poging om de Keniaanse justitie te ontlopen, dan had dit de fundamentele beginselen van toegang tot rechtspraak en gelijkheid voor de wet ondermijnd ten gunste van buitenlandse privileges.’

Naast historisch is deze uitspraak ook van mondiaal belang, vindt hij: ‘Dit is de eerste keer dat Meta onderworpen zal worden aan rechtspraak in het Globale Zuiden. Socialemediaplatforms hebben een grote impact op het leven van mensen en de samenleving. Zij moeten hiervoor ook verantwoording afleggen.’

Een advocate in Nairobi na het indienen van de aanklacht tegen techbedrijf Meta (mei 2022). De zaak kan wereldwijd een primeur zijn.

© Reuters / Baz Ratner

‘Ik ben optimisch over de uitkomst’, zegt Motaung zelf over de rechtszaak. ‘Als we deze zaak winnen, is dat misschien de eerste stap om het systeem te veranderen. En ja, deze bedrijven kunnen naar een ander land trekken en er dezelfde praktijken herhalen. Maar die werknemers zullen hun opzoekingswerk doen en zien wat in Kenia gebeurde.’

Nog voor het pleiten begonnen is, heeft de zaak van Motaung al wat in gang gezet. Begin dit jaar kondigde Meta aan dat het het contract met Sama in Nairobi zal beëindigen, waardoor meer dan 200 jobs op de tocht staan. Het Luxemburgse bedrijf Majorel, dat in Nairobi al modereert voor TikTok, zou de opdracht voor Meta er gaan overnemen.

Maar toen contentmanagers van Sama dit voorjaar voor dezelfde functie gingen solliciteren bij concurrent Majorel, kregen ze te horen dat voormalige Sama-medewerkers niet in aanmerking kwamen. Het leidde tot een nieuwe klacht bij de arbeidsrechtbank voor het onwettig hanteren van een zwarte lijst voor kandidaten.

184 contentmoderatoren stelden zich ondertussen burgerlijke partij. De rechtbank heeft het contract tussen Meta en Majorel tijdelijk laten opschorten in afwachting van een uitspraak. Ook Sama mag zijn contentmoderatoren voorlopig nog niet afdanken.

Meer waardering

Ondanks het magere loon en de mentaal vernietigende jobinhoud vechten de contentmoderatoren vandaag om hun job te kunnen behouden. Net als Motaung blijven ze bereid om de job te doen. ‘Nee, “bereid” is niet het juiste woord’, verbetert hij. ‘Armoede is geen mooi gegeven. In de eerste plaats: in armoede heb je weinig andere keuze dan te vechten voor het behoud van je baan. Pas in tweede instantie kan je, zoals ik probeerde in 2019, strijden voor betere voorwaarden.’

‘Je ervaring is niets waard, behalve als je elders contentmoderatie gaat doen. Het is een dead end job.’

Door zijn ontslag raakte Motaung ook zijn werkvergunning kwijt. ‘Ik kwam even arm terug aan in Zuid-Afrika als ik vertrokken was. Bovendien begreep ik dat contentmoderatie een job met een dood einde is. “Fordisme” is dat, het opknippen van een werkproces in kleine handelingen. Je kijkt en klikt en doet geen enkele waardevolle werkervaring op die je in eender welke andere baan zou kunnen helpen. Je ervaring is niets waard, behalve als je elders contentmoderatie gaat doen. Het is een dead end job’, beklemtoont hij nog eens.

Een andere baan vond Motaung sindsdien niet. ‘Vandaag ben ik noodgedwongen een voltijdse klokkenluider. Ik hoop dat ik wel iets in de sector kan veranderen.’ Dat contentmoderatie nodig is, betwijfelt Motaung niet. Maar het moet wél in de best mogelijk omstandigheden voor de mens achter de moderatie gebeuren.

Het lijkt logisch om naar artificiële intelligentie (AI) te kijken om de problemen met de mentale gezondheid van werknemers te voorkomen bij contentmoderatie. Maar dat zal niets snel oplossen, denkt Motaung. Want ook om AI-technologie op fouten te testen, worden vandaag dezelfde bedrijven en moderatoren ingeschakeld. ChatGPT werkt ook voor die technologie samen met Sama in Kenia.

Zo werden ook Facebook-berichten voor Ethiopië gemodereerd vanuit Nairobi, tijdens de Tigray-oorlog. Berichten die het geweld daar de afgelopen maanden aanwakkerden. Maar verschillende incidenten werden ondanks meldingen niet offline gehaald, ook al werden daarin mensen online geviseerd of met de dood bedreigd. Het toont aan dat meer moderatie door mensen nodig is.

‘Nooit had ik gedacht dat we hier vandaag zouden staan. Met werknemers van elke grote socialemediareus, verenigd in de eerste Afrikaanse unie van contentmoderatoren.’

Motaung onderschreef een open brief aan Facebook met de vraag om meer actie te ondernemen tegen zulke berichten. Met zijn onderschrijven drukt hij zijn solidariteit uit met onder andere Abrham Meareg. Diens vader was een professor aan het Katiba Institute in Ethiopiëen werd een slachtoffer van doxing, het publiek maken van persoonlijke informatie. Professor Meareg Amare Abrha werd vlak bij zijn huis doodgeschoten. Ondanks verschillende meldingen aan Facebook werd het bericht pas na zijn dood offline gehaald. Zoon Abrham daagt Meta hiervoor voor de rechtbank, alweer in Kenia, waar de contentmoderatie voor Ethiopië zou moeten gebeuren.

Motaung denkt dat het beroep van contentmoderator in de eerste plaats opgewaardeerd moet worden. ‘Voor zover ik weet, werkt iedereen voor die bedrijven onder tijdelijke contracten. Dat zorgt voor kwetsbaarheid en de schrik om zich uit te spreken.’

Ngo Foxglove bracht in maart contentmoderatoren uit verschillende landen samen in Berlijn, om de nog jonge sector internationaal te verenigen. Om de job duurzaam te maken, moeten de medewerkers meer waardering en bescherming krijgen, was een van de gezamenlijke eisen die ze formuleerden.

In Nairobi werd op 1 mei, de Internationale Dag van de Arbeid, dan weer een nieuwe historische stap gezet. Meer dan 150 medewerkers van bedrijven in onderaanneming van sociale media stemden er in het Mövenpick Hotel voor de oprichting van de Content Moderators Union, de eerste vakbond voor de nog sterk ondergewaardeerde beschermers van het internet. Een week later, op 8 mei, hielden 80 Facebookmoderatoren een sit-in voor het hoofdkantoor van Sama in Nairobi om hun rechtmatige loon op te eisen.

Een proces dat begon bij die ene klokkenluider, Daniel Motaung. ‘Nooit had ik gedacht, toen we in 2019 begonnen met The Alliance, dat we hier vandaag zouden staan. Met moderatoren van elke grote socialemediareus, verenigd in de eerste Afrikaanse moderatoren-unie. Nooit waren we met zo veel. Onze strijd is oprecht, de weg is rechtvaardig en we zullen overwinnen. Ik kan niet trotser zijn.’

Dit interview werd geschreven voor het zomernummer van MO*magazine. Vind je dit artikel waardevol? Word dan proMO* voor slechts 4,60 euro per maand en help ons dit journalistieke project mogelijk maken, zonder betaalmuur, voor iedereen. Als proMO* ontvang je het magazine in je brievenbus én geniet je tal van andere voordelen.