Waarom we wellicht allemaal aan de verkeerde kant van de digitale toekomst staan

Essay

Over digitale breuklijnen en de quasireligie van technologie

Waarom we wellicht allemaal aan de verkeerde kant van de digitale toekomst staan

Waarom we wellicht allemaal aan de verkeerde kant van de digitale toekomst staan
Waarom we wellicht allemaal aan de verkeerde kant van de digitale toekomst staan

De digitale kloof gaat over véél meer dan internet hebben of met een computer overweg kunnen. ‘We smachten naar de belofte van verlossing, en die verwachten we bij voorkeur van technologie.’ Technologiesocioloog Ben Caudron neemt de digitale breuklijnen in onze maatschappij onder de loep.

0fjd125gk87/Pixabay

Kunnen we nog geloven dat mensen in staat zijn om de diverse maatschappelijke problemen aan te pakken, of zien we in technologie een oplossing voor alles?

0fjd125gk87/Pixabay

De digitale kloof gaat over véél meer dan thuis internet hebben of al dan niet overweg kunnen met een computer. ‘Liever dan het losgeslagen neoliberalisme ernstig te nemen, smachten we naar de belofte van verlossing. En die verwachten we bij voorkeur van technologie.’ Technologiesocioloog Ben Caudron zet in dit essay de digitale breuklijnen in onze maatschappij op een rij.

Van het narratief waarmee het internet aan de wereld werd gesleten, is voorlopig nog maar weinig werkelijkheid geworden. Er was de hoop dat digitale technologie meer vrijheid, meer democratie, zou brengen.

Die hoop werd op geen tijd de kop ingedrukt door enkele nieuwkomers in de markt van quasimonopolisten die het laattwintigste-eeuwse kapitalisme heeft gecreëerd. Maar wie staat er wel aan de juiste kant van de digitale toekomst en wie niet? Die vraag is relevanter dan ooit, omdat Big Tech er steeds beter in slaagt zich in te bedden in elk aspect van ons mondiaal sociaal weefsel en daarbij steeds meer mensen achterlaat.

‘Een democratische digitalisering is mogelijk,’ zoals de hoofdredacteur van dit blad schreef, ‘als we verliezers niet langer aan de kant laten staan.’

Digitale breuklijnen

De bekommernis over de toenemende ongelijkheid is niet nieuw. Al in 1995 werd gevreesd dat de realiteit achter het begrip ‘digitaal’ ongelijk verdeeld is. Aanvankelijk werd die ongelijkheid gereduceerd tot de tegenstelling tussen zij die wel en zij die geen toegang tot het web hadden.

In de eerste analyse van die ongelijkheid stonden kenmerken centraal die steeds opnieuw ook belangrijke indicatoren van sociale stratificatie (in­de­ling van de be­vol­king naar so­ci­a­le klas­sen, red.) bleken. Ondertussen is duidelijk dat de breuklijnen van de digitale kloof complexer en fluïde zijn.

Er is uiteraard de sociale dimensie. Die gaat over de diverse factoren die binnen een gemeenschap aanleiding geven tot sociale ongelijkheid, en dus ook digitale uitsluiting. De reportage van MO*journaliste Tine Danckaers dit voorjaar illustreert die sociale dimensie treffend.

Daarnaast is er ook de vaak onderbelichte globale dimensie. Die gaat over de manier waarop de verhoudingen tussen het Westen en het Zuiden ook tot uiting komen in wat we ‘digitale ontwikkeling’ noemen.

Die globale ongelijkheid heeft verschillende gezichten. Er is uiteraard de perfide manier waarop het Westen de noodzakelijke grondstoffen van het Zuiden steelt. Maar onder deze globale dimensie valt ook de vanzelfsprekendheid waarmee we ons in het Zuiden het belangrijkste product van digitale activiteit, data, toe-eigenen. In dat opzicht spreekt Dhwani Goel (London School of Economics) terecht over kolonialisme.

Dan is er nog de economische dimensie van digitale ongelijkheid. Die slaat op de ongelijke verdeling van de mogelijkheden om te handelen binnen de digitale markten, als producent en als consument. ‘Er is heel weinig onderscheid tussen opgeleid worden voor de nieuwe digitale economie en er op brute wijze door worden tewerkgesteld’, schrijft de Britse auteur Josh Gabert-Doyon. De gevolgen van wat tegenwoordig disruptie wordt genoemd, de plotse, radicale technologische vernieuwingen die de bestaande economie helemaal overhoophalen, zijn ongelijk.

‘Digitalisering’ slaat niet op ‘technologie’ in strikte zin, maar vooral op de maatschappelijke processen en veranderingen in de manieren waarop mensen dingen doen.

Deze drie dimensies — sociaal, globaal en economisch — hebben iets met elkaar gemeen: ze laten zich eenvoudig verklaren vanuit beproefde analyses van kapitalisme (zoals deze van de hand van de Amerikaans-Belarussische onderzoeker en auteur Evgeny Morozov).

De structurele ongelijkheden eigen aan deze maatschappelijke indeling hebben zich uitgestrekt tot de digitale kant van het bestaan, en dat was voorspelbaar. We hebben de nieuwe raamwerken, zoals Zuboff’s Surveillance Capitalism of het technofeodalisme (een term die ook de Griekse oud-minister en econoom Yanis Varoufakis gebruikt) helemaal niet nodig om de breuklijnen te begrijpen.

Méér dan technologie

Er is daarnaast ook de democratische of politieke dimensie van digitale ongelijkheid. Daarmee doelde men oorspronkelijk op de ongelijk verdeelde mogelijkheden van politiek engagement. De Amerikaanse politiek wetenschapster Pippa Norris beschreef dat in 2001 nog als: ‘Binnen de onlinegemeenschap tekent zich een democratische kloof af tussen zij die wel en zij die geen gebruik maken van internetvoorzieningen om zich in te zetten voor, te mobiliseren en deel te nemen aan het openbare leven.’

Maar intussen is wel duidelijk dat deze invulling ontoereikend is. De democratische dimensie beslaat een veel bredere categorie van fenomenen, die we ook moeilijker kunnen afbakenen of herleiden tot ogenschijnlijk eenduidige kenmerken of handelingen.

Deze vorm van digitale ongelijkheid kan je moeilijk begrijpen zonder ons denken over digitale technologie te fileren. Of zonder het heersende discours aan flarden te scheuren dat vormgeeft aan het vals-concrete concept (de reïficatie, naar de Kritische Theorie van filosoof-socioloog Habermas) dat ‘technologie’ is.

Wat we digitalisering noemen, heeft immers maar weinig met technologie in strikte, concrete zin te maken. ‘Digitalisering’ slaat vooral op complexe maatschappelijke processen, waarin diverse actoren en diverse elektronische toestellen en toepassingen veranderingen teweegbrengen in de manieren waarop mensen dingen doen.

Het geloof in de onvermijdelijke vooruitgang

‘Technologie’ baadt in een reductionistisch determinisme, het idee dat ze steeds verandert, als gevolg van een wetenschappelijke vooruitgang of volgens een eigen logica. ‘Ook al hebben sociaal wetenschappers al langer kritiek op die idee, ze blijft centraal staan in de politiek en in de media’, schrijft de Britse Digital Ethics-consultante Sophie Taylor.

Taylor geeft het voorbeeld van Brits parlementslid Oliver Dowden die data beschreef als ‘de drijvende kracht van ‘s werelds moderne economieën’ en het voorbeeld van de media die zich afvragen of ‘robotadvocaten’ voor een revolutie in de handel zullen zorgen. Terwijl niemand zich afvraagt of die zaken effectief zo zouden móeten zijn.

Omwille van dat deterministische geloof in de technologische vooruitgang worden de sociale contexten waarin deze politieke economie zich kan ontrollen, netjes verhuld. Een belangrijk onderdeel van deze processen is de niet-aflatende semantische tirannie. Of, naar pr-pioneer Edward Bernays: wie een gebeurtenis een naam of etiket geeft, oefent controle uit over de perceptie van die gebeurtenis op lange termijn.

Want processen als deze zijn gebaat bij pseudorealiteiten, ‘die strak als waarheid worden aangehouden’, zoals de Amerikaans-Bulgaarse schrijfster Maria Popova beschrijft. Ze analyseert de visie van Walter Lippmann, journalist en politiek commentator voor én na de Tweede Wereldoorlog, op de publieke opinie en op onze glibberige blik op de waarheid: ‘Fictie hoeft geen schaamteloze leugen te zijn: het kan, en is dat meestal ook, de subtiele vervorming van de werkelijkheid zijn (…) om een wirwar van pseudowerkelijkheid te produceren.’

Het zijn die pseudorealiteiten die ons verhinderen om alternatieven te overwegen en als legitieme mogelijkheden te beschouwen.

Wanneer technologisch determinisme de instellingen beheerst die een cruciale rol spelen in de samenleving, dreigt een verdere uitholling van die samenleving.

Technologie als oplossing?

Sinds enige tijd wordt er weer meer gedebatteerd over de gezondheidstoestand van de democratie, en dat laat vermoeden dat er verschillende zaken aan de hand zijn.

Liever dan het losgeslagen neoliberalisme ernstig te nemen, smachten we naar de belofte van verlossing. En die verwachten we bij voorkeur van technologie.

Ze zijn steeds talrijker, de kwalen die onze democratie schijnen te tergen. Het onderwijs is gebuisd. Misdaad grijpt overal om zich heen (zo beweren althans politici). De waarheid lijkt voor onze ogen te verdampen tot desinformatie en fake nieuws, met de gretige medewerking van bedrijven zoals Facebook-eigenaar Meta die teren op welbehagen, niet op feitelijkheid. Instellingen zijn er om te wantrouwen. En zelfs extinctiescenario’s worden steeds aannemelijker geacht.

Daarbij negeren we doorgaans de bemerking dat een en ander de logische uitkomst is van een losgeslagen neoliberalisme. Moesten we die bemerking ernstig nemen, dan zou dat immers betekenen dat ons een moeizaam politiek proces te wachten staat. Liever smachten we naar de belofte van verlossing, en die verwachten we bij voorkeur van technologie.

Liever dan te investeren in wat onderwijs uniek maakt – gepassioneerde mensen die kinderen laten leren, zonder het keurslijf van nutsdenken –, willen we geloven dat het onderwijs zal gered worden door educatietechnologie of kortweg EdTech. Het heil moet komen van slimme borden, digitale leerplatformen en, waarom ook niet, artificiële intelligentie (AI).

De onderwijskoepel van de Vlaamse Gemeenschap nam bijvoorbeeld de Engelse start-up Century Tech onder de arm om een onderwijstool op basis van AI te ontwikkelen die ‘snel duidelijk (maakt) welke leerling remediëring nodig heeft of extra uitdaging kan gebruiken’. Het project werd intussen, vrij geruisloos, alweer afgevoerd.

Deze illusie dat de oplossing van technologie zal komen, doet de schaarse middelen in de verkeerde zakken belanden. Maar daar malen we niet om.

Liever dan te investeren in wat echt bijdraagt tot meer veiligheid, in alle mogelijke vormen, willen we geloven dat die veiligheid alleen mogelijk is als we alle principes van proportionaliteit en effectiviteit overboord gooien om de panoptische publieke ruimte mogelijk te maken. Waarbij een of andere autoriteit altijd kan toezien op je doen en laten. Maar wie wordt daarbij bekeken, en welk proces beslist of je ingedeeld wordt bij de bekekenen of niet?, vroeg socialemediatheoreticus Nathan Jurgenson zich in 2014 al af.

Wie durft te opperen dat zo’n surveillance-infrastructuur ooit zal misbruikt worden omdat actoren of regimes er politiek voordeel bij hebben, wordt weggezet als een technofoob. Of erger nog, als een neo-luddist, naar de Britse textielarbeiders die zich begin 19de eeuw verzetten tegen de technologische en industriële ontwikkelingen door weefmachines te saboteren.

Onafhankelijke media (zoals de leden van de Vlaamse digitalemediakoepel Media.21) kunnen ons helpen om kritisch na te denken en tragere zorgvuldigheid te koesteren, want reflectie en afweging van waarschijnlijkheid zijn daar bij gebaat. Maar liever dan te investeren in zulke media, willen we geloven dat technologie ‘de Waarheid’ zal redden met algoritmische wondermiddelen.

Over de risico’s van zo’n censuurinfrastructuur denken we niet na. We leerden immers niet meer hoe dat moet.

Liever dan te geloven dat mensen in staat zijn om problemen aan te pakken, stellen we blind vertrouwen in de propaganda van de halfgoden uit Silicon Valley.

Liever dan te investeren in hersteld vertrouwen in instellingen — de instellingen waarin mensen proberen het maatschappelijk kluwen telkens weer te ordenen –, willen we geloven dat we die ordening beter toevertrouwen aan technologie. Want die is vanzelfsprekend “efficiënter” en vooral “objectief”.

Het lijkt (voorlopig) onmogelijk om zo’n technologie veilig te ontwikkelen. Een typevoorbeeld daarvan was de toeslagenaffaire, waarbij overheidssoftware duizenden Nederlanders automatisch en vaak onterecht het stempel van fraudeur opplakte. Waarom efficiënte en objectieve technologie ontwikkelen zo moeilijk blijft? Dat kunnen Siri of Alexa ons niet uitleggen.

Liever dan te geloven dat mensen heus wel in staat zijn om de diverse problemen waarmee we geconfronteerd worden aan te pakken, stellen we blind vertrouwen in de propaganda van de halfgoden uit Silicon Valley. Ook al betrap je hen zelden op een democratische reflex en is zelfoverschatting ook hen niet vreemd.

De aantrekkingskracht van solutionisme

We tuinen met z’n allen in de val van solutionisme, een begrip dat Evgeny Morozov in 2010 voor het eerst gebruikte in zijn boek The Net Delusion (wat je kan vertalen als ‘De waan van het net’).

In het eerste deel daarvan beschrijft hij hoe marketeers steeds vaker onbestaande of volslagen irrelevante problemen verzinnen nadat ingenieurs een of ander nieuw gadget hebben gemaakt dat vermarkt kan worden. ‘Technologisch solutionisme’ leek hem een geschikte term om deze bedenkelijke praktijk te benoemen.

Morozov begreep dat dit ook niets anders is dan een uiting van een nieuwe vorm van technologisch determinisme, de opvatting die ervan uitgaat dat mens en samenleving geen andere keuze hebben dan lijdzaam te ondergaan wat technologie ons oplegt.

Hij bedacht dat uit dat solutionisme ook een nieuwe theorie vloeit. Waarin complexe sociale fenomenen gestript worden van hun oorspronkelijke betekenis, waardoor ook de feilbare, inefficiënte manieren waarop we problemen proberen aan te pakken op de schop kunnen. Technologie moet ons in staat stellen ‘verbazingwekkende efficiëntie te creëren’ en alles en iedereen ‘tot zijn volle potentieel te gebruiken’, zoals de vroegere Chief Technical Officer van Paypal Max Levchin tien jaar geleden al verkondigde.

In een veranderende, onzekere, eroderende wereld is de bereidheid groot om mee te gaan in de quasireligie van technologie.

Morozov benoemt het als ‘het streven van Silicon Valley om ons allemaal in een digitaal keurslijf te persen door efficiëntie, transparantie, zekerheid en perfectie te promoten’. Elk probleem, hoe complex, paradoxaal en ideologisch geladen ook, kan immers opgelost worden door er de juiste technologie tegenaan te gooien.

Hij haalt het voorbeeld aan van drankautomaten met sensoren die op hete dagen automatisch, zonder menselijke tussenkomst, de prijs van de aangeboden drankjes kunnen aanpassen — een marketingstunt, maar de technologie bestaat. En van digitale platforms die taxidiensten aanbieden, zoals Uber. Een klassieke taxidienst behandelt elke klant gelijk. Maar digitale platforms die je data en wensen kennen, kunnen voorrang bieden én hogere prijzen vragen aan wie bereid is die te betalen.

Solutionisme is een verleidelijke ideologie in een wereld die steeds meer gepercipieerd wordt als een permanent veranderende bron van onzekerheid en chaos, waarin instellingen onderhevig zijn aan versnelde erosie, waarin het verschil tussen leugen en waarheid vervaagt, waarin mensen vooral als fragiele feilbare wezens worden afgeserveerd. Want in zo’n wereld is de bereidheid groot om mee te gaan in de quasireligie van technologie.

Solutionisme ontkent het politiek-economische karakter van de problemen van maatschappelijke instellingen en structuren.

Net deze aantrekkingskracht, samen met het gebrek aan kennis van de mogelijkheden van die vermeend onfeilbare technologie, maakt solutionisme zo gevaarlijk.

Solutionisme ontkent het politiek-economische karakter van de problemen waarvoor maatschappelijke instellingen en structuren zich doorgaans geplaatst zien. En het dwingt die instellingen en structuren bovendien om zich te schikken naar een logica die bepaald wordt door digitale systemen én door de commerciële (en politieke?) motieven van hun eigenaars.

Solutionisme stimuleert defaitisme. Het versnelt de uitbesteding van wat het voorwerp van politiek behoort te zijn. Solutionisme maakt ‘de marktplaats van ideeën’, voor zover die de twintigste eeuw heeft overleefd, overbodig. Het reduceert mensen tot wezens die zich veilig en vrij mogen wagen in een wereld die begrensd wordt door de particuliere belangen van het Silicon Valley-kapitalisme.

Tenzij we erin slagen om deze sluipende machtsgreep een halt toe te roepen, staan we op een dag allemaal aan de verkeerde kant van de digitale toekomst. Dan zijn we allemaal verliezers.