‘Als het ontwerp van tech ongelijk gebeurt, dan zorgt die tech voor nog meer ongelijkheid’

Chinmayi SK

© The Bachchao-project​

‘Bij sommige tech-conferenties kan je het misogynie-gehalte afleiden van de namen van de wifi-hotspots. Soms zie je daar woorden als “feminazi” verschijnen’, vertelt Chinmayi SK tijdens een workshop voor een groepje verzamelde technologisten.

Chinmayi is vrouw, Indiaas en in het verleden stichtte ze een start-up. Ze zou zowat het uithangbord kunnen zijn van iemand die Silicon Valley naar India wil halen, was het niet voor haar activisme. In de door mannen gedomineerde technologiesector strijdt ze immers voor meer diversiteit.

Zo maakte ze al een app om seksueel geweld te bestrijden, stichtte ze mee The Bachchao-project dat rond diversiteit en technologie werkt en adviseert ze allerhande organisaties over hoe technologie de maatschappij beter kan weerspiegelen. Chinmayi was op 6 juli in België voor het event Open Summer of Code, en MO* sprak met haar over hoe technologie ongelijkheid kan versterken, maar ook verzwakken.

Diversiteitsprobleem

Dat de technologiesector een diversiteitsprobleem heeft weten we al langer. De sector is overweldigend blank en mannelijk, en kende de laatste jaren heel wat schandalen. Zo moest in 2017 Uber CEO Travis Kalanick ontslag nemen omwille van een seksisme-schandaal. En kreeg Silicon Valley een #metoo moment waarbij legendarische durfkapitalisten zoals Chris Sacca en Dave McClure werden geïmpliceerd in seksuele intimidatie.

En diversiteit is niet enkel een probleem voor het Amerikaanse Silicon Valley. Overal ter wereld zijn er ‘tech’ of technologie-gemeenschappen die zich bezighouden met software, platformen en start-ups, en overal ter wereld hebben die diversiteitsproblemen.

Dus ook in India. ‘In India hebben we dezelfde problemen als in Silicon Valley’, vertelt Chinmayi. ‘In plaats van blanke mannen staan Indiase mannen gewoon in de machtspositie.’

Racistisch algoritme

Dat die sector de maatschappij niet weerspiegelt is van groot belang volgens Chinmayi ‘Informatietechnologie wordt steeds belangrijker in onze levens. Als het ontwerp van technologie op een ongelijke manier gebeurt, dan gaat die technologie ook voor meer ongelijkheid zorgen.’

Dat toont een voorbeeld uit de Verenigde Staten. De staat Florida gebruikt zo een computeralgoritme dat per crimineel de kans op recidivisme voorspelde, en dat om hun strafmaat te bepalen. Maar na een onderzoek van de journalistieke organisatie ProPublica bleek dat het algoritme racistisch was. Zwarten zonder strafblad die lichte overtredingen begingen werden vaak negatiever ingeschat dan geharde, blanke, criminelen met een lang strafblad.

‘Vroeg in de ontwikkeling van informatietechnologie hebben we niet nagedacht over hoe we technologie ook inclusief kunnen maken. En daarom realiseert de technologie-wereld zich nu plots dat hun technologie bijvoorbeeld racisme, misinformatie of geweld kan versterken’, stelt Chinmayi.

Chinmayi SK

© The Bachchao-project​

Divers ontwerp

Chinmayi adviseert daarom organisaties om hier oplossingen voor te vinden. “Voor elke technologie die echt gelijkwaardig wil zijn moeten diverse stemmen betrokken zijn bij het ontwerp ervan, en daarnaast moet er inspraak kunnen zijn in hoe de technologie gebruikt wordt”, stelt Chinmayi als alternatief voor.

Daarom is het dus belangrijk dat de maatschappelijke impact hier centraal komt te staan. ‘Computerwetenschappen moet meer invloed ondervinden uit de menswetenschappen en uit ethiek. Wanneer we deze technologische platforms bouwen moeten we meer nadenken over de maatschappelijke implicaties ervan.’

Seksuele intimidatie

Chinmayi doet dit vanuit haar eigen ervaring. Ze werkte eerst als programmeur en leidde daarna een start-up, en daar ervaarde ze zelf discriminatie. ‘Vroeg in mijn carrière kreeg ik minder betaald dan mijn mannelijke collega’s, en ben ik geconfronteerd geweest met seksuele intimidatie’, getuigt Chinmayi. ‘Het nemen van risico als vrouw is in India ook minder prevalent, een start-up oprichten als vrouw wordt dus nog steeds als iets raars beschouwd.’

Nu heeft ze van ongelijkheid bestrijden haar doel gemaakt. Ze richtte mee The Bachchao Project op, een organisatie die onder andere een app maakte waarmee Indiase vrouwen seksueel geweld kunnen melden. ‘Dat is eigenlijk gewoon een panic-button app, die ook geluid en video opneemt wanneer het wordt ingedrukt. Zo laat je contacten weten dat je in de problemen zit, en wordt er ook bewijs verzameld.’

Als snel realiseerde ze echter dat enkel een app niet genoeg was. ‘Het is niet voldoende om enkel technologie te bouwen. We realiseerden ons dat de technologie-wereld helemaal niet weet hoe ze producten moeten maken zonder vooroordelen erin.’

Daarom adviseert ze nu organisaties over hoe ze diversiteit en technologie kunnen mengen. ‘We brengen twee werelden samen’, vertelt Chinmayi. ‘Mensen uit de technologie-wereld moeten vaker in contact komen met activisten die voor mensenrechten strijden, zodat technologie beter iedereen vertegenwoordigt en zodat activisten technologie zelf beter kunnen inzetten.’

Silicon Valley

Maar ondanks de diversiteitsproblemen stijgt er vanuit Silicon Valley ook een hoopvolle beweging op. De verkiezing van Trump radicaliseerde daar heel wat werknemers bij grote technologiebedrijven zoals Facebook, Google en Amazon.

Zo duidt Chinmayi erop hoe Google recent een samenwerking met het Pentagon moest stopzetten. Dat project, Project Maven, wilde camerabeelden van drones analyseren via de AI van Google, een stap te ver voor veel Google-werknemers.

En ook bedrijven zoals Microsoft en Amazon staan intern onder druk omdat ze samenwerken met ICE, de Amerikaanse migratiedienst die onder vuur kwam omdat ze migrantenkinderen bij hun ouders wegnemen.

Chinmayi wil een stap verder gaan en spreekt over vakbonden. ‘Ik denk dat als tech-werknemers zich in vakbonden organiseren, dat een van de manieren zal zijn om deze monopolies te breken. Grote tech-bedrijven worden politiek gesteund en zijn weinig aansprakelijk voor wat ze doen. Dat werknemers zich organiseren is dus broodnodig in de technologiesector.’

Chinmayi SK

© The Bachchao-project​

Continu strijd

Chinmayi ziet technologie ten slotte niet als een quick-fix naar verandering. ‘Het is betwijfelbaar dat technologie echt dingen gaat veranderen. Het kan helpen, maar uiteindelijk is het slechts een tool die op een goede of een slechte manier kan gebruikt worden. Sociale verandering gaat er slechts komen als we maatschappelijke structuren veranderen, en technologie kan dat helpen of tegenwerken.’

De toekomst ziet ze dubbel. ‘Ik ben enerzijds optimistisch. Er komt meer en meer bewustzijn over diversiteit en ethiek in de technologie-wereld. Mensen verzetten zich tegen het foute gebruik van technologie, tegen de onderliggende vooroordelen van de tech-wereld en er komen sterkere wetten om data te beschermen. Anderzijds staat, zeker in de VS, netneutraliteit onder druk en wil de EU heel problematische copyright wetten invoeren. Het is dus een continue strijd die steeds prominenter zal worden in onze levens.’