Kan ook vrede viraal gaan op sociale media?

© Reuters / Cathal McNaughton — Beeldbewerking Inge D’haen

Informatieoorlogen op platformen zoals Facebook, WhatsApp en Twitter lijken al jaren te woeden. Die monden helaas ook uit in écht geweld, van de bestorming van het Amerikaanse Congres tot rellen in Oost-Congo. Maar: er wordt net zo goed gewerkt aan digitale vrede. ‘Als we ethiek en moraliteit weten te verwerken in technologie, staat er ons mogelijk een mooie toekomst te wachten.’

Een straaljager vliegt enkele honderden meters boven de grond wanneer plots een raket opduikt achter het toestel. Het projectiel mist de jager op een haar na. Het explodeert enkele meters achter het vliegtuig met een luide knal.

Het filmpje van het incident ging eind januari al snel viraal in de Democratische Republiek Congo (DRC) en Rwanda. Het zou gaan over een toestel van de Congolese luchtmacht dat onder vuur genomen werd door de Rwandezen.

Volgens het Rwandese leger schond het toestel hun luchtruim. Volgens de Congolese overheid was de straaljager gewoon bezig aan de landing toen Rwanda er een raket op afschoot. Het betekende opnieuw een opstoot in de spanningen die toch al hoog oplopen tussen de twee landen.

Sociale media werden na het incident overspoeld met misleidende berichten. Die moesten doelbewust jongeren ophitsen en geweld aanwakkeren. Er circuleerde ook een communiqué van de Rwandese overheid, waarin die aankondigde om de M23-rebellentroepen níet terug te trekken uit Congolees grondgebied, ondanks een eerder akkoord.

Het communiqué oogde officieel, maar de officiële kanalen van de Rwandese overheid waarschuwden kort daarop: ‘Please ignore this fake news’. Je reinste desinformatie, zo bleek.

Please ignore this FAKE NEWS.
All official announcements from the Office of the Prime Minister are posted by @PrimatureRwanda and on https://t.co/fTJPRTAnGO pic.twitter.com/e7GQB6KxeP

— Rwanda Government Communications (@RwandaOGS) January 13, 2023

Vanuit België volgde Christian Cirhigiri deze gebeurtenissen nauwgezet op. Hij is expert in digitale desinformatie en het geweld dat die kan veroorzaken. Hij werkt vandaag voor de ngo Search for Common Ground in Brussel en is afkomstig uit Congo.

‘Meta (het bedrijf achter sociale media zoals Facebook, Instagram en WhatsApp, red.) contacteerde ons en vroeg om de berichten over dit incident te analyseren’, vertelt hij. ‘Wij zagen al snel dat het over misinformatie ging die heel delicaat was en mogelijk geweld kon veroorzaken. Dit keer volgde Meta ons advies en haalden ze bepaalde berichten ook offline.’

Dankzij of ondanks?

Sociale media zijn al een tijd een grote bron van desinformatie: onjuiste informatie die verspreid wordt met het doel om mensen te misleiden. Ze zijn letterlijk platformen voor haat en roepen soms zelfs op tot regelrecht geweld. Ook misinformatie, onjuiste info zonder dat er sprake is van bewuste misleiding, is een digitale plaag.

Waarom vindt u het belangrijk om digitale desinformatie te bestrijden?

Christian Cirhigiri: Toen sociale media voor het eerst populair werden, was er eerst een soort naïeve, prille periode waarin mensen vooral foto’s deelden, verjaardagen vierden en gewoon sociaal contact hadden. Maar uiteindelijk werden sociale media het monster dat we nu allemaal kennen. Ze werden een plek die overloopt van misinformatie en haat.

Zaken kunnen online heel snel uit de hand lopen.

En wat gebeurt in online ruimten heeft ook gevolgen voor de offline wereld. Daarom is het zo belangrijk om te bestrijden digitale des- en misinformatie. Als deze problemen niet aangepakt worden, heeft dat zware gevolgen in de echte wereld.

Waar is het op dat vlak al grondig fout gelopen?

Christian Cirhigiri: Dit is al lang aan de gang. In 2007 al brak er bijvoorbeeld geweld uit in Kenia na de verkiezingen. Dat resulteerde in honderden doden. Vóór het geweld uitbrak zag je online al tekens dat bepaalde etnische groepen andere groepen in het vizier namen, op online platformen maar ook in de traditionele media.

Tegelijk heb je niet noodzakelijk online platformen nodig om haat te verspreiden. Tijdens de Rwandese genocide (in 1994, red.) waren radiostations cruciaal om mensen te bombarderen met haatboodschappen, wat uiteindelijk tot extreem geweld leidde. Des- en misinformatie zijn niet nieuw. Maar digitale media zorgen ervoor dat zaken veel sneller viraal kunnen gaan. Digitaal schaalt erg snel op, en dat maakt het uniek. Zaken kunnen online heel snel uit de hand lopen.

Dat is trouwens een fenomeen dat niet louter in het Globale Zuiden plaatsvindt. Kijk naar de Verenigde Staten, waar de bestorming van het Amerikaanse Congres op 6 januari 2021 deels via sociale media werd gecoördineerd.

Is de introductie van sociale media enkel een negatieve trend geweest?

Christian Cirhigiri: Socialemediaplatformen zijn niet enkel slecht. Er zijn ook andere platformen, zoals Ushahidi, die geweld net tegengaan. Ushahidi werd in 2008 geïntroduceerd in Kenia en verbond mensenrechtenactivisten en personen uit het maatschappelijke middenveld. Ze konden via dat platform indicatoren van geweld opvolgen en dat naar elkaar communiceren. Als er iets zorgwekkends opdook, kon dat doorgegeven worden aan de juiste overheidsactoren. Dit platform heeft zo heel wat geweld weten te voorkomen.

Maar tegelijkertijd kunnen we natuurlijk niet ontkennen dat sociale media gebruikt worden om geweld te organiseren.

Hebben sociale media meer geweld veroorzaakt?

Christian Cirhigiri: Dat ga je me niet horen zeggen. Sociale media is lang niet de enige factor die speelt. Maar het is wel een element dat we in het oog moeten houden. Je kan er heel veel mensen mee bereiken in een korte tijdspanne. Maar die kracht wordt soms voor erg zorgwekkende zaken gebruikt.

Genocide op Rohingya

Het meest bekende voorbeeld van online haat die overslaat in reëel geweld is misschien wel Myanmar. In 2017 liep de situatie er compleet uit de hand. Gevechten tussen het leger en een lokale rebellengroep mondden uit in etnische zuiveringen van de Rohingya-bevolking. Deze moslimminderheid werd al langer gediscrimineerd en vervolgd. De genocide van 2017 door het Myanmarese leger, in samenwerking met lokale boeddhistische milities, resulteerde in duizenden doden. Het dwong 700.000 Rohingya ertoe om te vluchten.

Facebook speelde een belangrijke rol bij de moordpartijen. Het platform is enorm populair in Myanmar en werd gebruikt om haat tegen de Rohingya te verspreiden en geweld aan te moedigen.

Amnesty International noemde Facebook zo een ‘echokamer voor content gericht tegen de Rohingya’ in de maanden en jaren voor de repressie. Facebook zelf deed daar heel weinig aan tijdens de genocide. Het Amerikaanse techbedrijf vond een markt als Myanmar gewoonweg niet aantrekkelijk genoeg om in te investeren en goed te modereren.

In 2021 zouden enkele Rohingya een rechtszaak aanspannen tegen Meta (de nieuwe naam van het moederbedrijf van Facebook) voor zijn rol in de genocide. Amnesty International volgde in 2022 met een oproep aan Meta om compensatie aan te bieden aan de Rohingya.

Sociale media hervormen

Search for Common Ground probeert desinformatie op sociale media op verschillende manieren aan te pakken. De ngo gaat onder andere partnerschappen aan met socialemediabedrijven zoals Meta en adviseert hen over contentmoderatie en het ontwerpen van hun systemen. Denk maar aan advies over welke zaken geweld kunnen uitlokken, of over hoe veranderingen in het algoritme dat berichten suggereert desinformatie kunnen beïnvloeden.

Tegelijk doet de ngo onderzoek naar desinformatie, lobbyen ze bij onder andere de Europese Unie en financieren ze lokale initiatieven in het Globale Zuiden om desinformatie tegen te gaan, zoals het ondersteunen van journalisten. Die geven ze bijvoorbeeld trainingen in factchecken en hoe valse informatie te spotten.

Samenwerken met platformen als Meta is een moeilijke beslissing, die niet alle ngo’s volgen. Omdat deze bedrijven vooral uit zijn op winst boeken en contentmoderatie in het Globale Zuiden wel eens links durven laten liggen.

Jullie kiezen ervoor om samen te werken met socialemediabedrijven. Denkt u dat de aanpak van die bedrijven te hervormen valt?

Christian Cirhigiri: Om heel eerlijk te zijn twijfel ik er soms aan. Het businessmodel van bedrijven zoals Meta komt niet altijd overeen met onze waarden. Zij willen dat zoveel mogelijk mensen content liken, erop reageren, klikken en bekijken. Dat maakt het soms moeilijk voor hen om de juiste gevoeligheden aan de dag te leggen om geweld te voorkomen. Wanneer we content vinden die een risico inhoudt, maar ze willen er geen aandacht aan besteden, dan zorgt dat voor problemen.

Tegelijk zit Meta zelf ook in de problemen. Recent hebben ze meer dan 10.000 werknemers ontslagen, waaronder mensen in cruciale departementen die rond desinformatie werkten. Meta wil zich meer op het puur economische focussen en op hun transitie naar de metaverse (een virtuele omgeving waarin mensen met elkaar in contact kunnen staan, red.).

‘De overname van Twitter heeft heel wat werk voor de mensenrechten tenietgedaan.’

Tegelijk blijven we met hen samenwerken. We vinden dat we die verantwoordelijkheid hebben en moeten opnemen. Als er geen organisaties zijn die met de bedrijven praten, dan begrijpen die nooit hoe hun platform geweld bevordert. Daarom vinden we het zo belangrijk om die dialoog aan te gaan.

Wat met dat andere socialemediabedrijf, Twitter, dat recent werd overgenomen door miljardair en zakenman Elon Musk, in naam van de vrije meningsuiting?

Christian Cirhigiri: Daar zijn we erg teleurgesteld over. De overname van Twitter heeft heel wat werk voor de mensenrechten tenietgedaan. Een groot deel van de mensen die bij Twitter werkten aan mensenrechten, misinformatie of privacy is ofwel ontslagen ofwel gemuilkorfd door de nieuwe filosofie achter het bedrijf.

© Reuters / Shannon Stapleton — Beeldbewerking Inge D’haen

Technologie uit Afrika en Azië

Politici, met oud-VS-president Donald Trump als bekendste voorbeeld, weten handig gebruik te maken van nepnieuws. Ook in het Globale Zuiden kan dat gelinkt worden aan rellen, moordpartijen en zelfs genocide.

Wat daarbij niet helpt, is dat de grote socialemediabedrijven meestal in het globale Noorden gevestigd zijn. Ze zetten de voorbije jaren wel meer in op omgaan met schadelijke berichten op hun platformen, maar daarbij gaat weinig aandacht naar het Zuiden.

Welke rol speelt de opdeling tussen Noord en Zuid in de strijd tegen online haat en geweld?

Christian Cirhigiri: Heel wat socialemediabedrijven komen uit het Globale Noorden, en hun hele filosofie steunt op een westerse mindset. Zo investeren ze niet genoeg in hun operaties in het Globale Zuiden. Er is in Afrika of Azië niet altijd genoeg geld om berichten te modereren. En bovendien is er niet genoeg kennis van lokale talen en gevoeligheden.

‘Minder haat en geweld zullen er pas komen als we ethische principes in deze technologie verwerken en het maximaliseren van de winst af en toe links laten liggen.’

We negeren ook vaak innovaties uit het Globale Zuiden. Want ook in die regio ontstaan er techbedrijven die het mogelijk anders aanpakken, zoals Ushahidi. Wij werken daarom niet enkel met de grote bedrijven zoals Meta maar bouwen ook partnerschappen uit met kleine, innovatieve techbedrijven, om hen bewust te maken van deze gevoeligheden.

We moeten meer investeren in initiatieven en technologie uit het Globale Zuiden, en dat vraagt een mentaliteitsverandering. We moeten het Zuiden niet zien als een plek waar niets gebeurt op het gebied van technologie en waar het Noorden problemen moet komen oplossen. In de plaats daarvan moeten we lokale initiatieven leren ondersteunen.

Ai en ethische principes

Moderatoren worden niet altijd goed betaald en raken vaak getraumatiseerd doordat ze constant schokkende beelden moeten bekijken. Hoe verhoudt zich dat tot de noodzaak om problematische berichten weg te halen?

Christian Cirhigiri: Dat is een reëel probleem. We hebben moderatoren nu eenmaal nodig op sociale media om gewelddadige zaken weg te halen. Maar die komen daardoor vaak in contact met schokkende beelden. Ik zie het zelf ook. Ik zit in verschillende WhatsApp-groepen waarin informatie uit Congo verspreid wordt. En daar zie ik regelmatig filmpjes met schokkend geweld. Dat berokkent schade aan de mensen die dat zien.

MO*talks: Wie betaalt de rekening van desinformatie?

MO*journalist John Vandaele praat erover met onderzoekster Nathalie Van Raemdonck, technologiesocioloog Ben Caudron, Charlotte Michils van de Vlaamse Vereniging van Journalisten en VRT-journalist Tim Verheyden.

Dinsdag 28 maart, 19.30 uur
In RITCS-café, Brussel.
Gratis inkom. Inschrijven via info@mo.be

Meer informatie

Die content is er nu eenmaal en toont wat er in de realiteit gebeurt. Maar tegelijk moeten mensen ook oppassen wanneer ze zoiets delen. Daarom trainen we bijvoorbeeld influencers om twee keer na te denken voordat ze een schokkende video delen. Zij zijn deels verantwoordelijk voor de mentale gezondheid van hun volgers. Soms is het gewoon beter om iets niet te delen.

Is het wel mogelijk om sociale media vrij te krijgen van haat en geweld? Is er licht aan het einde van die digitale tunnel?

Christian Cirhigiri: Ik ben niet pessimistisch. De recent uitgekomen chatbot ChatGPT is een enorm innovatief staaltje van artificiële intelligentie (AI). Het toont dat er ook mogelijke oplossingen zijn, ook al gaat contentmoderatie vandaag nog vrij stroef. Er is een scenario mogelijk waarin AI er zo snel op vooruit gaat dat we daar een groot deel van de contentmoderatie op sociale media aan kunnen uitbesteden. We moeten nu dus ruimdenkend genoeg zijn om daar het gesprek over aan te gaan. Mogelijk brengt ons dat terug naar hoe sociale media vroeger waren: gewoon een plek waar je met vrienden praat. Waar alles transparant is. Waar de gesprekken humaan zijn. Waar we inspirerende zaken delen in plaats van haat en misinformatie.

Dat gezegd zijnde mogen we ons ook niet zomaar blindstaren op technologie. We kunnen deze toekomst enkel bereiken als alle belanghebbenden in de technologiesector echt samenwerken. Minder haat en geweld zullen er pas komen als we ethische principes in deze technologie verwerken en het maximaliseren van de winst af en toe links laten liggen.

Je kan de toekomst niet voorspellen, er zijn heel veel toekomstscenario’s mogelijk. Als we ethiek en moraliteit weten te verwerken in technologie zoals AI staat er ons mogelijk een mooie toekomst te wachten. Maar als technologie geen ethisch kompas ontwikkelt, kan dat wel eens rampzalig uitdraaien.

Dit interview werd geschreven voor het lentenummer van MO*magazine. Vind je dit artikel waardevol? Word dan proMO* voor slechts 4,60 euro per maand en help ons dit journalistieke project mogelijk maken, zonder betaalmuur, voor iedereen. Als proMO* ontvang je het magazine in je brievenbus én geniet je van tal van andere voordelen.