“‘Waarom we nood hebben aan een inclusievere AI-wet’

De opgang van artificiële intelligentie (AI) is niet meer te stoppen. Tools zoals Gemini, ChatGPT en Deepl zijn niet langer uit ons dagelijkse en professionele leven weg te denken. Maar voor mensenrechtenverdedigers opent deze technologische revolutie een reeks nieuwe vraagstukken.

Want aan de basis van heel wat AI-tools ligt een vooringenomenheid die discriminatie in de hand werkt. Antidemocratische krachten gebruiken ze ook voor het verspreiden van desinformatie.

Ook voor de lgbtiq+-gemeenschappen brengt AI een hele reeks nieuwe uitdagingen met zich mee. Heel wat AI-tools werken binair, wat bij lgbtiq+-personen geen gegeven is.

Denk maar aan het gebruik van lichaamsscanners in de luchthaven. Daarbij wordt vandaag al gebruik gemaakt van AI. Voor non-binaire personen is dit een vorm van invasief en vernederend lichaamsonderzoek. Want wanneer de scanner hun classificeert als man of vrouw, komt dat niet overeen met hun identiteit. Ook bij medische onderzoeken worden machines die gebruikmaken van AI getraind op binaire lichamen. Trans-, interseks- en non-binaire personen dreigen hiermee verkeerde diagnoses te krijgen.

Het belang van duidelijke richtlijnen voor de inclusie van lgbtiq+-personen in deze technologische revolutie gaat bovendien verder dan de tools die ontwikkeld worden door commerciële bedrijven. Ultraconservatieve en antidemocratische overheden gebruiken ze ook om onze gemeenschap verder te viseren.

Zo gebruikt het Russische regime al AI voor het vinden en berechten van zogenaamde gay propaganda op sociale media. Wat als de volgende stap een gezichtsherkenningstest is om homoseksuelen op te sporen?

“Influence operations"

Regimes zoals Rusland maken bij de verspreiding van desinformatie rond lgbtiq+ gebruik van zogenaamde AI-gedreven foundation models om dit te automatiseren. AI-gedreven foundation models zijn grote, voorgetrainde machine learning-modellen die getraind werden met uitgebreide datasets. Ze zijn in staat om een breed scala aan taken uit te voeren, zoals taalbegrip en beeldherkenning. Ze vormen de basis voor veel specifieke AI-toepassingen doordat ze met minimale extra training kunnen worden aangepast aan specifieke taken.

Maar niet alleen externe actoren maken er gebruik van. Zo worden dezelfde tools ook gebruikt worden door bepaalde partijen tijdens verkiezingscampagnes om de bevolking te beïnvloeden. Waar vroeger via officiële kanalen advertenties aangekocht moesten worden, wordt vandaag gebruikgemaakt van micro-influencing op X (voormalige Twitter), Telegram, Instagram enzovoort. Daarbij gaan vaak anonieme of valse profielen in de aanval tegen pro-mensenrechtenstemmen.

Ik merk dat steeds meer vrienden sociale media, en dan al zeker het toxische X en Facebook, verlaten.

Als activist zie ik dit steeds grotere proporties aannemen. Het is bijna onmogelijk om een dader aan te wijzen, maar de proportie toont wel aan dat dit op industriële schaal georganiseerd wordt.

Als professionals zijn we opgeleid om met deze industriële haat om te gaan, maar de weerslag op het mentaal welzijn van de online haatcampagnes op onze gemeenschap is niet te onderschatten. Ik merk dat steeds meer vrienden sociale media, en dan al zeker het toxische X en Facebook, verlaten.

De nood aan regulering is groot. Maar Europese beleidsmakers maakten met de nieuwe AI-wet nog niet veel vooruitgang. Vanuit de lidstaten werd een eerder economische aanpak gehanteerd bij het schrijven van de AI-wet. Lidstaten, waaronder Frankrijk, dreigden zelfs lange tijd om de stemming te boycotten, omdat de wet volgens hen de vrije markt en innovatie in de weg staat.

Maar het tegendeel is waar. Als we de negatieve bijwerkingen van AI, die we vandaag perfect kunnen anticiperen, niet limiteren via een wettelijk kader, gaat de economische kost van discriminatie vele malen hoger zijn.

Strenger wettelijk kader

Er is een gebrek aan strenge eisen voor controles van AI-gedreven foundation models om vooroordelen op te sporen en te beperken. Op dit moment wordt te veel vertrouwd op de goodwill van ondernemingen. Er zou een verplichte toets en samenwerking met het maatschappelijk middenveld moeten zijn voor AI-gedreven foundation models alvorens die legaal gebruikt mogen worden op de Europese markt.

De AI-wet pakt het gebruik van AI bij het verspreiden van desinformatie, met name gericht tegen lgbtiq+-gemeenschappen, niet uitgebreid aan. Nochtans is er, zeker in het licht van de voorbije Europese verkiezingen, meer dan ooit nood aan een duidelijke wettelijk kader bij het opzetten van bepaalde “influence operations”.

Een inclusieve digitale wereld zal zowel technologische als sociale vooruitgang stimuleren.

Zogenaamde hoog-risico AI-systemen zullen een Fundamental Rights Impact Assesment (FRIA) moeten doen. Maar de wet schrijft niet voor dat lgbtiq+-perspectieven moeten worden opgenomen in die FRIA voor AI-systemen. Om uitgebreide bescherming te garanderen zouden deze beoordelingen expliciet rekening moeten houden met mogelijke schade voor gemarginaliseerde gemeenschappen.

Daarnaast verbiedt of reguleert de wet niet expliciet pseudowetenschappelijke technologieën die beweren genderidentiteit of seksuele geaardheid te detecteren. Deze technologieën zijn inherent gebrekkig en kunnen worden misbruikt om lgbtiq+-personen aan te vallen.

Vanaf 2025 zal de AI-wet op regelmatige basis geëvalueerd worden. Hiervan moeten we gebruik maken om binnen Europa een inclusieve digitale samenleving te creëren.

Als persoon en als lgbtiq+-activist voel ik me alles behalve beschermd door de nieuwe regulering. Vandaag kunnen AI-systeem nog steeds bewust en onbewust ingezet worden om te discrimineren en desinformatie te verspreiden. Een inclusieve digitale wereld zal zowel technologische als sociale vooruitgang stimuleren.