Digitalisering van invloed op openbaar bestuur
Fusi bestudeert hoe digitalisering de rol van ambtenaren verandert. ‘Overheden gebruiken steeds vaker AI-systemen als ondersteuning bij besluitvorming,’ legt ze uit. ‘Dat heeft invloed op de manier waarop ambtenaren beslissingen nemen: naast hun professionele oordeel vertrouwen ze nu ook op algoritmische input.’ Deze verandering kan zowel positieve als negatieve gevolgen hebben, zoals de toepassing van andere digitale hulpmiddelen heeft aangetoond.
Enerzijds kunnen digitale tools bijdragen aan een grotere efficiëntie en meer transparantie in het werk, anderzijds kan het gebruik ervan leiden tot extra werkdruk en verminderde autonomie voor ambtenaren.
Een goed voorbeeld is de toename van open data-portals. ‘Twintig jaar geleden was het vrij ongebruikelijk dat overheden hun data openbaar maakten,’ zegt Fusi. ‘Nu wordt van ambtenaren verwacht dat ze datasets publiceren, documenteren en toegankelijk maken voor het publiek. Dat verhoogt de transparantie, maar brengt ook extra werk en verantwoordelijkheden met zich mee.’
Datagedreven besluitvorming kent risico’s
Een van de grootste zorgen rondom de inzet van AI in bestuur en beleid is de kwaliteit van de gebruikte data. Fusi benadrukt dat AI-systemen alleen goed functioneren als de inputdata volledig en correct zijn. ‘Veel landen hebben nog geen solide data-infrastructuur,’ legt ze uit. ‘Als de onderliggende data incompleet of bevooroordeeld zijn, zal het AI-model ook vertekende beslissingen nemen.’ Ze wijst op beruchte voorbeelden, zoals het toeslagenschandaal in Nederland, waarbij door AI-systemen bepaalde bevolkingsgroepen onevenredig hard werden getroffen op basis van gebrekkige of discriminerende datasets.
Daarnaast speelt het gebrek aan context een grote rol. ‘Data zijn nooit neutraal,’ stelt Fusi. ‘Ze vertellen een verhaal dat is gevormd door keuzes in verzameling en interpretatie. Zonder een goed begrip van de sociale en politieke factoren achter deze data, kan AI leiden tot beslissingen die niet eerlijk of effectief zijn.’
Sociale wetenschappen cruciaal voor AI-onderzoek
Volgens Fusi kunnen sociale wetenschappers een belangrijke bijdrage leveren aan AI-onderzoek. “Veel AI-voorstellen komen van computerwetenschappers en ingenieurs, maar het kan zijn dat ze substantiële kennis missen van de beleidscontext waarin hun technologie wordt ingezet,” zegt ze. “Sociale wetenschappers zijn opgeleid om rekening te houden met sociale complexiteit: hoe ambtenaren beslissingen nemen, hoe gegevens sociaal worden geconstrueerd en hoe menselijk gedrag het beleid beïnvloedt.”
Een interdisciplinair perspectief, zegt Fusi, is cruciaal. AI-projecten vereisen mensen uit verschillende disciplines aan de tafel", zegt ze. “Maar interdisciplinaire samenwerking kan ook een uitdaging zijn. Enkele collega's en ik bespraken hoeveel mensen we moesten interviewen om inzicht te krijgen in de voorkeuren voor een datadashboard. De UX-designwetenschapper dacht dat het interviewen van 20 tot 25 mensen genoeg was, als sociaal wetenschapper dacht ik in honderden, en de computational engineer in honderdduizenden.” Interdisciplinaire samenwerking dwingt ons om onze onderzoekspraktijken te heroverwegen en uit te dagen. Maar zonder goede samenwerking tussen disciplines, kunnen AI-systemen fundamenteel verkeerde aannames doen. Terwijl ingenieurs en computerwetenschappers meer expertise hebben op het gebied van gegevens en modellen, kunnen sociale wetenschappers uitkomsten interpreteren op basis van sociale theorieën. Dit zou kunnen helpen bij het beoordelen van onechte correlaties, zoals het gebruik van uitgaven voor gezondheidszorg in het verleden als een aanwijzing voor gezondheidsbehoeften. We weten dat mensen met een laag inkomen in de VS minder uitgeven aan gezondheidszorg omdat ze het zich niet kunnen veroorloven - niet omdat ze het minder nodig hebben.
Op dezelfde manier hebben we veel tijd besteed aan het verfijnen van luchtkwaliteitsmodellen en het verzamelen van gegevens, terwijl de geïnterviewde bevolkingsgroepen zich meer zorgen maakten over de locatie van luchtkwaliteitssensoren. Ze wilden de luchtkwaliteit weten op gevoelige locaties - bijvoorbeeld naast scholen - in plaats van in industriële zones. Interdisciplinaire samenwerking kan sterkere banden bevorderen, niet alleen binnen de academische wereld maar ook met externe leden van het publiek, die profiteren van (of het doelwit zijn van) AI-modellen.
Balans tussen technologie en menselijk oordeel noodzakelijk
Fusi pleit voor een zorgvuldige en goed doordachte inzet van AI binnen overheden. ‘AI is niet altijd de beste oplossing,’ stelt ze. ‘Sommige beslissingen vereisen menselijk oordeel en ervaring. In plaats van ons blind te storten op AI-gedreven automatisering moeten we ons afvragen: voor welke taken is AI geschikt en waar is menselijk inzicht onmisbaar?’
Ze benadrukt het belang van transparantie en controle. ‘Er moeten voldoende toetsmomenten zijn om te voorkomen dat AI-systemen ongecontroleerd beslissingen nemen, dus zonder menselijke tussenkomst. Overheden moeten AI zien als een hulpmiddel, niet als een vervanger van menselijk bestuur. Gebrek aan transparantie remt de evaluatie. ‘We hebben dit gezien bij het toeslagenschandaal. Bureaucraten waren niet in staat om de indicatoren te begrijpen die werden gebruikt om het risicoprofiel van de aanvragers op te bouwen, waardoor het onmogelijk was om fraude te onderscheiden van kleine administratieve fouten.’ Meer in het algemeen moet transparantie van toepassing zijn op elke fase van de AI-ontwikkeling om toezicht mogelijk te maken van zowel organisatieleden als het publiek - van open toegang tot de gegevens die worden gebruikt om het model te trainen en te evalueren tot het openlijk vrijgeven van de modelcode. Maar al te vaak weigeren overheidsinstanties toegang tot AI-gerelateerde informatie. Onderzoeksjournalisten hadden meer dan drie jaar nodig om toegang te krijgen tot informatie over een algoritme dat werd geïmplementeerd door de Zweedse socialezekerheidsdienst. (bron)
Een verantwoorde digitale overheid
De digitalisering van de overheid en de inzet van AI bieden kansen, maar brengen ook risico's met zich mee. Fusi onderstreept het belang van interdisciplinair onderzoek en een kritische blik op de data die AI-systemen voeden. ‘Door sociale wetenschappers te betrekken bij AI-ontwikkelingen ontstaat er een beter begrip over de invloed van technologieën op onze samenleving en de manier waarop we die op een verantwoorde manier kunnen inzetten.’
Haar onderzoek aan de VU richt zich op het vinden van die balans: hoe kan AI bijdragen aan een efficiëntere overheid zonder dat de menselijke factor uit het oog wordt verloren? Een vraag die steeds urgenter wordt naarmate digitalisering en AI een grotere rol spelen in het openbaar bestuur.
Specialisatie binnen de masteropleiding Bestuurskunde: Artifical Intelligence and Governance