Tekst: Marjolein de Jong | update: 19 maart 2026
Ooit werd De Hingh opgeleid als archeoloog. Waar ze zich eerst bezighield met agrarische technologie uit de prehistorie, onderzoekt ze nu wetgeving over algoritmes en AI. Toch keren volgens haar dezelfde vragen terug: dringt technologie zich onvermijdelijk op aan de samenleving? En wie bepaalt de spelregels?
Hoe objectief is onze huidige technologie volgens jou?
'Eigenlijk helemaal niet. Dat begint al in de techsector zelf waar 80 procent van de computerspecialisten man is. Vrouwen en mensen van kleur zijn zwaar ondervertegenwoordigd in ontwikkelteams en dat moet echt veranderen. Anders blijven innovaties, het ontwerp en ook de toepassingen van AI per definitie niet inclusief. Big tech wordt niet voor niets ook wel een ‘broligarchy’ genoemd (naar tech-bro en oligarchy, red.).
De negatieve effecten van die oververtegenwoordiging van mannen zien we overal terug. Denk bijvoorbeeld aan gezichtsherkenningstechnologie zoals die door de politie wordt gebruikt, op Schiphol, of voor surveillance bij online tentamens. We weten uit onderzoek dat die technologie veel minder betrouwbaar werkt bij zwarte vrouwen dan bij witte mannen, omdat de systemen vooral op die laatste groep zijn getraind. Dat kan ertoe leiden dat iemand niet wordt herkend of juist ten onrechte wordt geïdentificeerd en aangehouden.
Deze bias geldt ook voor generatieve technologie, zoals ChatGPT. Die wordt getraind met bestaand bronmateriaal en dan geldt: Garbage in, garbage out. Als je aan een LLM-model (Large Language Model, red.) vraagt: leg elektriciteit uit aan een meisje, krijg je een uitleg met een voorbeeld over poppen. Bij dezelfde vraag aan een jongen, dient een raceauto als voorbeeld. Ook wordt bij een dokter vaak automatisch aangenomen dat het een ‘hij’ is en bij een verpleegkundige een ‘zij’. Technologie is een spiegel van onze maatschappij en generatieve AI bevestigt de vooroordelen en stereotypen die in onze samenleving bestaan.'
Wanneer wordt zo’n bevestiging van stereotypen juridisch problematisch?
'Dat hangt af van de context en de gevolgen, maar het wordt juridisch relevant wanneer er ongelijkheid ontstaat of fundamentele rechten worden geraakt. Denk bijvoorbeeld aan werving- en selectiealgoritmes waarmee bedrijven cv’s laten scannen. Daar sluipt gemakkelijk bias in. Vrouwen kunnen door de technologie als minder geschikt worden geacht voor bepaalde functies, bijvoorbeeld doordat hun cv’s afwijken van het materiaal waarmee het algoritme is getraind: de cv’s van mannelijke werknemers. Zo krijg je een versterking van bestaande ongelijkheid.'
Wie is er verantwoordelijk als een algoritme discrimineert?
'Sinds 2024 hebben we een nieuwe wet: de Europese AI Act. Hiermee probeert de EU aan de voorkant bepaalde risico’s en schadelijke effecten van kunstmatige intelligentie te beperken. Hoe groter de risico’s van bepaalde AI-toepassingen, hoe strenger de regels zijn. Wanneer het gaat over AI-systemen die potentieel grondrechten bedreigen of discrimineren moeten de ontwikkelaars van die systemen, en ook de organisaties en bedrijven die zulke systemen gebruiken, voldoen aan allerlei voorwaarden en verplichtingen.
Zij zijn dus volgens de AI Act verantwoordelijk voor de bescherming van burgers en kunnen in principe sancties opgelegd krijgen als ze zich niet aan de regels houden. Je kunt dus nooit zeggen: het discriminerende algoritme is de schuldige. Maar of de AI Act daadwerkelijk voldoende bescherming biedt, zal de praktijk nog moeten uitwijzen.'
Een op dit moment veelbesproken voorbeeld van AI die discrimineert, is deepfake-technologie. Wat zegt de AI-Act daarover?
'Over deepfake technologie en vooral Nudify-tools is op dit moment veel te doen. Deepfake wordt in de praktijk vrijwel uitsluitend gebruikt om pornografisch materiaal te maken waarbij het hoofd van de ene persoon wordt geplaatst op het naakte lijf van een ander. Met Nudify-tools kunnen foto’s van een aangekleed persoon worden omgezet in naaktfoto’s. Vooral vrouwen zijn hier het slachtoffer van. Ook kan er seksueel beeldmateriaal van minderjarigen mee worden gemaakt, wat zonder meer strafbaar is.
Deepfakes vallen onder de AI Act omdat het zijn door AI gegenereerde of gemanipuleerde beelden zijn. Maar gek genoeg zijn die daarin geclassificeerd als een beperkt risico, waardoor voor de makers en gebruikers veel minder zware verplichtingen gelden, terwijl inmiddels uit onderzoek blijkt dat de schade voor de slachtoffers van deepnudes heel groot kan zijn. Dat is bij het formuleren van die wet niet onder ogen gezien. En de uitkleedapps waren waarschijnlijk nog niet eens bekend toen de AI Act in werking trad.'
Kan wetgeving snelle technologie überhaupt bijbenen?
'Dat is inderdaad lastig. Technologie ontwikkelt zich snel, soms sneller dan de wet, en wetgeving maken kost tijd. Nieuwe wetten moeten zorgvuldig en democratisch tot stand komen. In feite loopt het recht bijna per definitie achter de feiten aan, want wetten zijn vaak gemaakt voor situaties die we op dat moment kenden.
In het Nederlandse strafrecht is het al een tijdje strafbaar om seksueel beeldmateriaal - een naaktfoto of filmpje van een meerderjarige - te maken en te verspreiden als diegene daar geen toestemming voor heeft gegeven. Maar bij deepfakes ging het ineens om het gezicht van het slachtoffer en het naakte lichaam van iemand anders. Gaat het dan nog steeds om het maken en verspreiden van seksueel beeldmateriaal van het slachtoffer? Dan moet de rechter beoordelen of zo’n bestaande bepaling ook hier van toepassing is. Een paar jaar geleden heeft de rechter inderdaad geoordeeld dat deepfake video’s online zetten ook viel onder die strafbepaling.
Het recht kan, kortom, best een heleboel corrigeren, ook als het gaat om genderongelijkheid en schade die door technologie wordt veroorzaakt, maar het begint bij de keuzes die we aan de voorkant maken.'
