De meeste finance professionals begrijpen beslissingen van AI niet

Meer dan de helft van de finance professionals (54%) kan niet volledig uitleggen of herleiden waarom een AI-beslissing is genomen, als een auditor daar vandaag naar zou vragen. Bij CFO’s loopt dat zelfs op tot bijna twee derde (64%). Dat blijkt uit onderzoek van creditmanagementsoftwarespecialist Onguard onder ruim 300 finance professionals. Van de professionals die AI gebruiken in hun werk, noemt slechts achttien procent een AI-gedreven beslissing over kredietverlening of inning volledig uitlegbaar.

De beperkte uitlegbaarheid van AI-beslissingen komt ook terug in de manier waarop finance professionals zulke beslissingen kunnen onderbouwen. Bijna de helft van de finance professionals (45%) gebruikt AI in het werk. Binnen deze groep kan 52 procent een AI-gedreven beslissing over kredietverlening of inning pas met toelichting achteraf onderbouwen. Bij 21 procent is alleen de uitkomst duidelijk en ontbreekt de onderbouwing. Negen procent noemt zo’n beslissing nauwelijks of niet uitlegbaar.

Dat AI het werk versnelt staat nauwelijks ter discussie. De vraag is wat er met de controle gebeurt, en juist daar valt winst weg. Slechts een op de vijf finance professionals (20%) ziet dat processen sneller gaan en dat de controle verbetert. Bij de grootste groep gaat het werk sneller, terwijl de controle op hetzelfde niveau blijft (41%). En bij bijna een derde (32%) neemt de controle juist af of verdwijnt die grotendeels. De snelheidswinst is er dus wel, maar die vertaalt zich zelden in meer grip. Vaker gaat ze er ten koste van

Die grip op AI hangt in de praktijk af van de vraag of er nog een mens meekijkt. Bij minder dan een derde is dat standaard geregeld:
●       Altijd, menselijke controle is standaard ingebouwd (31%)
●       Vaak, maar niet in alle gevallen (49%)
●       Zelden, alleen bij uitzonderingen (18%)
●       Nooit, AI beslist volledig autonoom (2%)

Dat meekijken blijkt bovendien geen formaliteit. Zeven op de tien finance professionals zien dat AI-gedreven beslissingen regelmatig (16%) of af en toe (53%) leiden tot correcties, uitzonderingen of handmatige beoordeling.

Het onderzoek laat ook zien hoe AI binnen finance is ingevoerd. Bijna de helft van de finance professionals (48%) erkent dat AI is ingezet om snelheid te winnen terwijl de onderliggende processen nog niet op orde waren. Hoe hoger in de organisatie, hoe vaker dat wordt gezien: bij CFO’s is het 61 procent, bij financieel managers 53 procent en bij financieel medewerkers 37 procent.

Dennis Kromhout van der Meer, managing director bij Onguard: “AI is bij finance vooral binnengekomen als versneller, en dat werkt. Processen lopen sneller en teams houden tijd over. Maar snelheid is pas winst als je achteraf kunt laten zien waarom een beslissing is genomen. Nu kan meer dan de helft dat niet, en dat wordt een probleem zodra een auditor of toezichthouder ernaar vraagt.”

“Leg eerst vast welke beslissingen AI zelfstandig mag nemen en welke niet. Zorg vervolgens dat elke beslissing herleidbaar is naar de data en de regels waarop ze rust, zodat je die uitleg niet achteraf hoeft te reconstrueren. En bouw de menselijke controle in als vaste stap in het proces, niet als uitzondering. Dan houd je de snelheid die AI oplevert, zonder de verantwoording kwijt te raken.”