Tot deze conclusie komt computationeel taalkundige Myrthe Reuver naar aanleiding van haar onderzoek A Puzzle of Perspectives.
Herkennen
Reuvers onderzoek richt zich op methodes uit Natural Language Processing (NLP), waarbij AI wordt ingezet om taal te analyseren. Reuver: “Zo werd onder meer gekeken naar standpuntdetectie. Daarbij bepaalt een AI-model of een tekst argumenten vóór of tegen een bepaald onderwerp bevat, zoals strengere abortuswetgeving of Amerikaanse wapenwetten. De resultaten laten zien dat grote taalmodellen soms goed in staat zijn zulke standpunten te herkennen, maar dat ze moeite hebben met nuance, complexiteit en samenhang binnen bepaalde debat onderwerpen."
Meerwaarde door samenwerking AI en mens
Een opvallende uitkomst uit het onderzoek is dat samenwerking tussen AI en sociale wetenschappers leidt tot betere resultaten. “Het bleek dat voor de detectie van seksisme in tekst, een samenwerking tussen expert en een groot taalmodel het beste werkte, en beter werkte dan alleen de expert. Dit vonden we ook toen we een dataset wilden ontwerpen over klimaat-standpunten. Theorieën uit de sociale wetenschap hielpen heel erg om de nuances van het debat uit te leggen aan een AI model," aldus Reuver.
Nederlandse infrastructuur
Het onderzoek maakt gebruik van grootschalige experimenten met AI-modellen, die draaien op supercomputers via de Nederlandse infrastructuur van SURF. Deze lokale rekenkracht is volgens Reuver essentieel, zeker in het licht van het huidige debat over de afhankelijkheid van Big Tech voor AI-toepassingen.
Democratie
Reuvers onderzoek sluit aan bij maatschappelijke discussies over de filter-bubbel en polarisatie in het publieke debat en ook bij discussies over verantwoord gebruik van AI en grote taalmodellen. Reuver: “Mijn onderzoek geeft de grenzen aan van AI modellen voor het detecteren van verschillende standpunten. Tegelijkertijd toont het aan dat grote AI-taalmodellen juist een positieve bijdrage kunnen leveren aan het publieke debat en de democratie.”