Hoe leert Artificiële Intelligentie (AI) precies?
‘Je kunt AI vergelijken moet hoe een kind dingen leert door herhaalde blootstelling. Een kind leert namelijk door dingen aan te raken of te zien. Op een gegeven moment hoeft het niet meer na te denken over de vraag: “Is dit een kat of een hond?”. Die kennis ontstaat door ervaring. AI werkt op een vergelijkbare manier, al ontbreekt het - in tegenstelling tot een kind - aan begrip of intentie. In de trainingsfase wordt AI gevoed met een grote hoeveelheid voorbeelden waarna het op een bepaald moment leert wat de verschillen zijn tussen de dingen die het waarneemt. AI biedt vervolgens een statistische manier om nieuwe gegevens te interpreteren.’
‘Omdat AI wordt getraind op een dataset, ligt de kracht van AI in het feit dat de regels die het leert niet alleen gelden voor de trainingsdata, maar ook kunnen worden toegepast op nieuwe gegevens. Dat is de grote kracht van AI, maar ook een zwakte. De regels zijn namelijk gebaseerd op de trainingsdata. Als die data vertekend of bevooroordeeld is, zal AI deze vooroordelen overnemen.’
Zou je daarom kunnen zeggen dat AI discrimineert?
‘AI besluit natuurlijk niet zelf om te discrimineren. Discriminatie ontstaat door de manier waarop AI-systemen worden getraind, welke data daarvoor gebruikt wordt en hoe deze technologie vervolgens wordt ingezet in onze samenleving. Stel, een bedrijf zet AI in voor hun werving. Dit systeem wordt gevoed en getraind op vroegere wervingsbeslissingen waarbij mannen vaker leidinggevende posities toebedeeld kregen. AI neemt dit patroon vervolgens over waardoor discriminatie op de arbeidsmarkt ontstaat.’
‘Een ander voorbeeld is disciminatie in de gezondheidszorg als resultaat van een AI-systeem dat getraind is met historische data die vooral gebaseerd is op mannelijke patienten. Daardoor worden vrouwen voor bepaalde ziektes minder goed gediagnosticeerd.’
Nog even terug naar het voorbeeld van werving. Een AI-systeem kan dus ten onrechte mannen boven vrouwen verkiezen.
‘Het doel van de inzet van AI is in dat geval om patronen te herkennen die leiden tot succes in een bepaalde functie. Het systeem is erop gericht om succes te voorspellen aan de hand van eerdere gegevens, waarin vaak ook historische ongelijkheden besloten liggen. Denk bijvoorbeeld aan factoren zoals of iemand vaak te laat komt op het werk.’
‘Als in de dataset voornamelijk mannen voorkomen en slechts weinig vrouwen, leert het systeem onbewust dat geslacht een bepalende factor kan zijn, zelfs als dat irrelevant is. Dat is een simpel voorbeeld, maar je kunt je voorstellen dat het systeem onjuiste correlaties legt. Bijvoorbeeld: als vrouwen historisch gezien vaker verantwoordelijk waren voor de zorg van kinderen, zou een AI-systeem misschien onjuist concluderen dat ze vaker te laat op het werk komen. Maar zo'n conclusie houdt geen rekening met individuele nuances en context. En daar zit het gevaar. Het doel van AI is niet om bewust bepaalde groepen te discrimineren. Maar als de trainingsdata grotendeels gebaseerd is op mannen die eeuwenlang leidinggevende posities hebben bekleed, dan zijn er simpelweg te weinig gegevens over vrouwen in die functies. Hoe kan AI iets herkennen wat het nooit heeft gezien?’
‘Daarom is AI niet alleen een statistisch of wiskundig vraagstuk, maar ook een politiek vraagstuk. Hoe we besluiten AI te trainen, bepaalt hoe het functioneert. En omdat AI door mensen wordt getraind, weerspiegelt het onze keuzes en vooroordelen. Daarom zijn AI-systemen niet neutraal: hun ontwerp en de manier waarop ze ingezet worden weerspiegelen politieke beslissingen over wiens belangen prioriteit krijgen en wiens stemmen worden uitgesloten.’
Hoe kan AI inclusiever worden?
‘De oplossing ligt in het betrekken van de gemeenschap bij hoe AI vormgegeven wordt. Als er maar een paar mensen aan het roer staan bij de vormgeving van AI, dan is dat problematisch. Want dan neemt een klein groepje beslissingen voor een heleboel mensen die totaal anders zijn dan zij. En iedereen die met AI werkt, misschien met de beste intenties, heeft bepaalde vooroordelen.’
‘Inclusieve AI-ontwikkeling vereist een bredere participatie, met name van mensen in gemeenschappen die historisch ondervertegenwoordigd zijn in technologie. Als je die communities echt betrekt en laat meebeslissen, dan krijg je beter begrip van hun identiteit, hun behoeften en hun beweegredenen. Dan weet je beter wat inclusiviteit voor verschillende mensen betekent.’
Ben je dan nog wel positief over AI?
‘Zeker. Nogmaals, AI heeft niet zelf discriminerende intenties. En ik ben positief over het feit dat wij mensen de kans hebben om deze technologie inclusiever te maken, om AI meer te verankeren in onze samenleving en te trainen op de culturele overuigingen en waarden van de gemeenschap.’
‘Een groot probleem van AI op dit moment is dat het vooral om winst draait en niet om sociale belangen. Er gaat zo ontzettend veel geld in om. Maar ik heb er vertrouwen in dat naar mate open source-projecten en publieke initiatieven groeien, we meer democratische manieren zullen zien om AI te bezitten en te ontwikkelen en dat de rekenkracht voor AI-ontwikkeling op termijn breder verspreid zal raken zodat het de samenleving kan dienen’.
