Madalina Busuioc, co-directeur van het AIDG-lab, onderzoekt de cognitieve vooroordelen die bij beslissers ontstaan wanneer zij kunstmatige intelligentiehulpmiddelen gebruiken in hun besluitvorming.
Momenteel worden kunstmatige intelligentie-algoritmes als beslissingshulpmiddel gebruikt door menselijke besluitvormers in uiteenlopende bureaucratische kaders. In drie experimentele studies onderzoekt het onderzoek expliciet hoe besluitvormers vertrouwen op algoritmische aanbevelingen en welke impact dit heeft op hun besluitvorming. Twee mogelijke typen van vooroordelen vormden de focus van de studie: automatiseringsbias – onterechte overafhankelijkheid van algoritmisch advies ondanks tegenbewijs en selectieve aanhankelijkheid – bevooroordeelde aanhankelijkheid aan algoritmisch advies wanneer voorspellingen bevestigen wat besluitvormers al denken of geloven.
De studie vindt bewijs van selectieve aanhankelijkheid aan algoritmen: namelijk, meer deferentie naar algoritmische aanbevelingen wanneer voorspellingen overeenkomen met heersende stereotypen, waardoor vooroordelen in besluitvorming toenemen ten koste van reeds gemarginaliseerde gemeenschappen en individuen. Het onderzoek helpt een belangrijk cognitief mechanisme te ontrafelen waardoor beslissingsvooroordeel kan verergeren in de interactie met automatisering.