Sander Willems (ARC People): ‘AI-toepassingen gaan veel verder dan grote modellen’

De AFM onderzoekt op de kapitaalmarkten de rol van algoritmes in handelsbeslissingen en de risico’s van misleidende, AI-gegenereerde informatie. Financiële bedrijven moeten aan toezichthouders aantonen wat ze op het gebied van AI hebben ingericht en wat ze daarover hebben gedocumenteerd. In assetmanagement ligt de nadruk op modelrisicobeheer en de governance van zelflerende systemen.

“AI raakt vrijwel alle onderdelen van de waardeketen”, zegt Sander Willems over het gebruik van AI in de financiële bedrijven. “En dus ook het toezicht daarop.” Willems is Senior Manager Risk & Compliance bij ARC People, een organisatie die financiële instellingen begeleidt bij AI-governance en compliance.

In een interview op Banken.nl legt Willems uit hoe financiële bedrijven moeten omgaan met AI in hun organisatie. Een eerste stap die veel instellingen nog moeten zetten: een compleet overzicht krijgen van hun AI-toepassingen. “Dat gaat veel verder dan de grote, opvallende modellen”, legt hij uit in het interview.

“Ook tooling voor klantbeoordelingen, risicoclassificatie, dataverrijking of interne besluitvorming valt eronder. Zonder zo’n inventarisatie is het onmogelijk om te voldoen aan de eisen rond uitlegbaarheid, logging en modelrisicomanagement.”

“In de praktijk zien we dat veel financiële instellingen onbewust meer hoog-risicosystemen gebruiken dan ze dachten. Kredietbeslismodellen, AML-detectie, portefeuilleanalyses, AI-ondersteunde klantselectie, dat valt al snel in de hogere categorieën. En dan gelden verplichtingen die niet alleen beschreven moeten zijn, maar aantoonbaar, structureel en controleerbaar.”

“Instellingen die nu beginnen met inventariseren, risicoclassificaties uitvoeren en governance inrichten, creëren ruimte. Zij bouwen ervaring op en voorkomen dat zij in 2027 of 2028 in de knel komen wanneer de AFM haar bevindingen omvormt tot concrete normen.”