Mensgerichte AI
Mensen en AI hebben complementaire krachten, mensen excelleren bijvoorbeeld in het denken over anderen en empathie, terwijl AI-modellen grote hoeveelheden gegevens kunnen verwerken en repetitieve taken kunnen optimaliseren. Het is dus aantrekkelijk om mensgerichte AI te ontwikkelen die menselijke vaardigheden kan versterken. Omdat state-of-the-art AI-methoden vaak sterke benchmarkprestaties behalen, lijkt het ontwikkelen van dergelijke AI-assistenten realistisch.
AI nog steeds beperkt door simplificatie
Echter, de brede toepassing van AI om de vaardigheden van mensen op het gebied van wetenschap, democratie en vele andere domeinen te vergroten, wordt belemmerd door het gebrek aan gezond verstand. Een mensgericht AI-systeem dat menselijke taalvaardigheden kan nabootsen is niet voldoende - effectieve synergie vereist een gezond verstand begrip van psychologie, naïeve fysica, culturele waarden, en multimodale afstemming tussen taal en visie. Mensgerichte AI moet het vermogen hebben om de verlangens, doelen, waarden en intenties van een 'agent' te begrijpen, en dit begrip gebruiken om de acties van de agent te anticiperen. Het moet context begrijpen in situaties, de oorzaak en het gevolg van de acties van de deelnemers anticiperen, en tegenfeitelijk redeneren. Mensgerichte agenten moeten begrijpen hoe signalen uit meerdere modaliteiten samenkomen met elkaar en met impliciete kennis. En als laatste, om gevoelig te zijn voor ethische en morele aspecten van interactie, moeten mensgerichte AI-agenten begrijpen wat de impact is van cultuur en waarden op het gedrag van de relevante deelnemers.
Ontwikkeling van mensgerichte AI-agenten met gezond verstand
Filip Ilievski zal met dit project de kennis vergroten over hoe mensgerichte AI-agenten met gezond verstand die betrouwbaar mentale modellering (bv. van agenten) kunnen uitvoeren in mens-robot gesprekken, hun redenering kunnen verifiëren met behulp van logica of andere agenten, figuren van spraak (bv. analogieën) in tekst kunnen identificeren, agentgedrag kunnen uitleggen door culturele waarden, en samenhangend kunnen redeneren over visuele situaties (bv. in video's). Hij zal zijn onderzoekslijn over gezond verstand redeneren en neuro-symbolische AI verder ontwikkelen met nieuwe technieken die hybride mens-AI-systemen stimuleren voor maatschappelijk welzijn. Het project zal voortbouwen op de vooruitgang in gezond verstand redeneren vanuit kennisrepresentatie en redenering, neurale taal- en visiemodellen, en mens-AI samenwerking.
AiNed Fellowship subsidies
De AiNed Fellowship subsidies maken deel uit van het AiNed programma gefinancierd door het Nationaal Groeifonds en helpen Nederlandse academische kennisinstellingen om AI-talenten aan te trekken die meestal kunnen kiezen tussen verschillende competitieve aanbiedingen. De focus ligt op uitzonderlijke AI-talenten die kunnen worden ingezet in een AI-discipline, variërend van technologie tot de sociale wetenschappen en geesteswetenschappen. Dit stelt kennisinstellingen in staat om een aantrekkelijk aanbod te doen aan AI-talenten. Lees hier het nieuwsbericht van NWO over de vijf toegekende projecten.