Van deepfakes tot wetenschappelijke papers, comments en nepnieuwsberichten: het maken en verspreiden van door AI-gegenereerde content over bijvoorbeeld de Amerikaanse verkiezingen is kinderlijk eenvoudig. Maar op welke schaal we worden blootgesteld aan en beïnvloed door online desinformatie is heel lastig te zeggen. Dat zegt computerwetenschapper Felienne Hermans. “Ik maak me zorgen over hoe weinig het bredere publiek weet over AI en algoritmes.” 

1. Hoe makkelijk is het om door AI-gegenereerde content te maken?
'Heel. Je neemt bijvoorbeeld een filmpje op van jezelf, waarin je stelt: wij zeggen alle steun aan Oekraïne per direct op. Vervolgens vervang je je eigen gezicht door dat van Rutte, of van Trump. Kinderspel. Zoiets kan iedereen in een middag in elkaar zetten. En als je ook begrijpt hoe algoritmes werken, kun je het vervolgens heel gemakkelijk verspreiden en zorgen dat het viral gaat.'

2. Kan je als leek herkennen dat content nep is?
'Met trucjes die iedereen inmiddels wel kent, zoals het tellen van de hoeveelheid vingers aan handen. Soms zie je het ook aan hoe een gezicht beweegt. Maar over het algemeen is het heel lastig en worden algoritmes steeds beter. Gevolg is onder meer dat het een way out kan geven aan bijvoorbeeld politici: stel, er duikt nu een soortgelijk ‘grab em by the pussy’-filmpje op van Trump. Acht jaar geleden kon hij niet ontkennen dat hij dat was. Maar nu zou hij dat wel kunnen: ‘Dat was ik niet, dat was een algoritme’. En bewijs dan maar eens het tegendeel.'

3. Gaat de nieuwe EU AI Act online nieuwsconsumenten voldoende beschermen?
'Volgens die nieuwe wet moet bij alle gemanipuleerde content duidelijk worden vermeld dat het door AI-gegenereerde content is. Ten eerste is die wet voor de Europese verkiezingen te laat, want we zijn al naar de stembus geweest. Bovendien is er nog veel onduidelijkheid over de uitvoering. Wie in Nederland gaat dit bijvoorbeeld handhaven: de Autoriteit Persoonsgegevens of een andere toezichthouder? En hóe handhaaf je, met zoveel grijze gebieden? Denk aan LuckyTV. Stel dat de maker AI gebruikt om de stem van koning Willem-Alexander op authentieke videobeelden te plakken: mag dat dan niet meer op televisie komen? Of geldt er een uitzondering voor satire? En tegen wie ga je handhaven? Tegen de eigenaar van de software, onder de nieuwe AI Act? Of tegen de maker van het filmpje of het platform waarop het wordt verspreid, onder de al bestaande Digital Services Act?'

4. Maak jij je zorgen over de AI-invloed op de maatschappij? 
'Ik schrik wel van de onwetendheid van het bredere publiek: dat ik vaak nog moet uitleggen wat het verschil is tussen AI en algoritmes en hoe je algoritmes kunt inzetten voor het verspreiden van nepnieuws. Pas als het kennisniveau wordt opgekrikt, in onder meer de politiek of het bedrijfsleven, kan door AI-gegenereerde desinformatie worden aangepakt.'

5. Wat adviseer je mensen om zich te wapenen tegen nepnieuws?
'Lees gewoon een krant of abonneer je op een goede podcast. Die hebben natuurlijk ook een bepaalde kleur, maar dan weet je wel welke kleur. En dan krijg je nieuws van geverifieerde bronnen. Een gevarieerd informatiedieet is beter dan het alleen consumeren van content waarvan het algoritme heeft bepaald dat jij het moet zien.'

Felienne Hermans is hoogleraar Computer Science Education. Haar voornaamste onderzoeksinteresse ligt bij de vraag hoe zo veel mogelijk mensen - ongeacht hun achtergrond - kunnen leren programmeren.