BEGIN:VCALENDAR VERSION:2.0 PRODID:-//Vrije Universiteit Amsterdam//NONSGML v1.0//EN NAME:Oratie prof.dr.ir. M.E. van Dijk METHOD:PUBLISH BEGIN:VEVENT DTSTART:20260226T154500 DTEND:20260226T171500 DTSTAMP:20260226T154500 UID:oratie-prof-dr-ir-m-e-van-dijk@8F96275E-9F55-4B3F-A143-836282E12573 CREATED:20260925T014841 LOCATION:Hoofdgebouw VU, 1105, Aula, De Boelelaan, 1081 HV, Amsterdam SUMMARY:Oratie prof.dr.ir. M.E. van Dijk X-ALT-DESC;FMTTYPE=text/html:

Can your Private Dat a be Secured in the age of Machine Learning?

Trainen zond er sporen: Kan AI echt leren zonder jouw privacy te schenden?

Kunnen we erop vertrouwen dat artificial intelligence onze privacy be schermt? LLMs zoals ChatGPT en Claude zijn getraind met zowel publiek e als private data. Hoe kan zo’n model ontworpen worden met privacy -by-design?  Deze vragen stelt hoogleraar computerveiligheid bij Centrum Wiskunde & Informatica (CWI) Marten van Dijk in zijn ora tie. Cryptografische methoden zoals Differential Privacy  en PAC Privacy bieden deels een oplossing, maar hebben beperkingen. Kunnen deze formeel wiskundig beschreven worden? En kunnen trainingsalgoritm en zo worden aangepast dat accuratesse behouden blijft terwijl privac y gegarandeerd wordt?

Naast privacy spelen poison- en evasion-a ttacks een rol die de veiligheid van AI ondermijnen. Er is behoefte a an rigoureuze vergelijking van verdedigingsmechanismen, iets wat nu v aak ontbreekt. Ook fairness-by-design is cruciaal: wiskundig is aange toond dat niet alle fairness-definities compatibel zijn. Hoe kunnen L LMs toch eerlijk en verantwoord ingezet worden bij besluitvorming?

Uiteindelijk streven we naar Trustworthy AI: systemen die accuraa t, veilig, eerlijk én verklaarbaar zijn, aldus Van Dijk.

DESCRIPTION: Can your Private Data be Secured in the age of Machine Le arning?

Trainen zonder sporen: Kan AI echt leren zonder jouw priv acy te schenden?

Kunnen we erop vertrouwen dat artificial intelli gence onze privacy beschermt? LLMs zoals ChatGPT en Claude zijn getra ind met zowel publieke als private data. Hoe kan zo’n model ontworp en worden met privacy-by-design?  Deze vragen stelt hoogleraar c omputerveiligheid bij Centrum Wiskunde & Informatica (CWI) Marten van Dijk in zijn oratie. Cryptografische methoden zoals Differential Privacy  en PAC Privacy bieden deels een oplossing, maar hebben beperkingen. Kunnen deze formeel wiskundig beschreven worden? En kun nen trainingsalgoritmen zo worden aangepast dat accuratesse behouden blijft terwijl privacy gegarandeerd wordt?Naast privacy spelen poison - en evasion-attacks een rol die de veiligheid van AI ondermijnen. Er is behoefte aan rigoureuze vergelijking van verdedigingsmechanismen, iets wat nu vaak ontbreekt. Ook fairness-by-design is cruciaal: wisk undig is aangetoond dat niet alle fairness-definities compatibel zijn . Hoe kunnen LLMs toch eerlijk en verantwoord ingezet worden bij besl uitvorming?Uiteindelijk streven we naar Trustworthy AI: systemen die accuraat, veilig, eerlijk én verklaarbaar zijn, aldus Van Dijk. END:VEVENT END:VCALENDAR