AI die zich aanpast aan wat voor jou belangrijk is
Enrico Liscio onderzoekt hoe AI-systemen tijdens een gesprek kunnen herkennen wat voor individuele gebruikers belangrijk is en hoe ze hun reacties daarop kunnen afstemmen. Door technische AI-ontwikkeling te combineren met experimenten met echte gebruikers draagt zijn onderzoeksproject bij aan de ontwikkeling van AI die transparant en flexibel is en in overeenstemming met de maatschappelijke verwachtingen functioneert.
AI-systemen zoals chatbots worden steeds vaker ingezet om mensen te ondersteunen in gevoelige sectoren zoals de openbare dienstverlening en de gezondheidszorg. Om betrouwbaar te zijn, moeten deze systemen niet alleen onveilig gedrag vermijden, maar ook reageren op een manier die aansluit bij menselijke waarden, zoals veiligheid en autonomie.
Niet iedereen heeft dezelfde behoeften
AI-systemen leren van enorme hoeveelheden online gegevens. Daardoor weerspiegelen ze vaak de meest gangbare meningen en denkwijzen, in plaats van zich aan te passen aan de persoon met wie ze communiceren. Je hebt dit waarschijnlijk zelf wel eens meegemaakt: soms geeft een AI-systeem een algemeen antwoord dat niet helemaal aansluit bij jouw situatie. In het beste geval is dit enigszins frustrerend. In meer gevoelige situaties, zoals stemadvies of gezondheidszorg, kan dit veel ernstigere gevolgen hebben. Zo merkte de Autoriteit Persoonsgegevens voorafgaand aan de laatste Nederlandse verkiezingen op dat populaire chatbots onevenredig veel aandacht besteedden aan de grootste politieke partijen, terwijl kleinere partijen zelden werden genoemd.
De uitdaging: menselijke waarden herkennen
Dit roept een fundamentele vraag op: hoe kunnen AI-systemen begrijpen wat er echt toe doet voor de persoon die ze helpen, en zich daarop afstemmen? Volgens Liscio ligt de sleutel in menselijke waarden. Waarden als autonomie, veiligheid, rechtvaardigheid of respect voor traditie spelen een belangrijke rol bij de keuzes die mensen maken. Tegelijkertijd is het voor AI moeilijk om deze waarden te herkennen
"Waarden verschillen van persoon tot persoon, veranderen afhankelijk van de situatie en worden vaak niet expliciet uitgesproken," zegt Liscio. "Mensen zijn zich bovendien niet altijd bewust van hun eigen waarden totdat ze daar bewust over nadenken."
AI die zich tijdens een gesprek aanpast
Liscio ontwikkelt AI-systemen die deze waarden tijdens een gesprek kunnen herkennen en hun reacties daarop kunnen afstemmen. In eerder onderzoek ontwikkelde hij, samen met een interactieontwerper, een prototype waarin werd onderzocht hoe gebruikers via chatbot-interfaces over hun waarden konden nadenken en deze konden communiceren. Voortbouwend op deze inzichten zal Liscio’s Veni-project nieuwe methoden ontwikkelen waarmee taalmodellen de waarden van gebruikers uit gesprekken kunnen herkennen en reacties kunnen genereren die beter aansluiten bij wat voor hen belangrijk is, terwijl het systeem transparant blijft en gebruikers de controle behouden.
Toepassingen met een maatschappelijke impact
Liscio test zijn aanpak op twee toepassingsgebieden waar persoonlijke waarden een belangrijke rol spelen. De eerste toepassing betreft stemadvies. Politieke voorkeuren hangen vaak samen met verschillende waardeprioriteiten. Een beter begrip van die waarden kan helpen om transparanter advies te geven dat mensen ondersteunt bij het nadenken over hun eigen voorkeuren.
De tweede toepassing richt zich op lifestyle-coaching voor mensen met diabetes. Ook daar spelen persoonlijke afwegingen een belangrijke rol, bijvoorbeeld tussen gezondheid, zelfstandigheid en dagelijkse routines. Een AI-systeem dat deze verschillen begrijpt, kan ondersteuning bieden die beter aansluit bij de behoeften van individuele gebruikers.
Enrico Liscio: "Ik hoop dat dit onderzoek zal bijdragen aan AI-systemen die niet iedereen hetzelfde antwoord geven, maar zich op verantwoorde wijze kunnen aanpassen aan verschillende mensen en situaties, terwijl ze transparant blijven en aansluiten bij wat gebruikers werkelijk belangrijk vinden."