De digitale transformatie biedt ongekende mogelijkheden voor de financiële sector. Maar zijn we ook voorbereid op de gevaren?

Over de voordelen die ‘de digitale transformatie’ met zich meebrengt voor CFO’s, wordt veel geschreven. Wekelijks verschijnen er blogs, krantenartikelen en whitepapers over het automatiseren van repetitieve financiële processen waardoor we allemaal meer tijd overhouden voor mooie zaken als business partnering en hogere vormen van datamining, waarbij intelligente algoritmes doorwrochte financiële en strategische inzichten kunnen creëren uit de steeds aanzwellende hoeveelheid (bedrijfs)data. Slimme IT en automatisering stellen ons in staat om met een druk op de knop complexe forecasts te maken die financieel risicomanagement naar dimensies belooft te brengen die we nog niet eerder hebben gezien! 

Tot zover het goede nieuws. Want met alle ongekende mogelijkheden die de digitale transformatie ons brengt - en met name ook de snelheid waarmee innovatie zichzelf op de hielen ziet - wordt het ook steeds ingewikkelder om de complexiteit van de nieuwste technieken te begrijpen en de gevaren die het met zich meebrengt echt te doorgronden. Niet alleen in de financiële wereld - maar eigenlijk op alle terreinen van ons leven. De voordelen zijn zo overduidelijk: tijdswinst, gemak, geld. En met steeds groter gemak leggen wij onszelf erbij neer dat we ‘onmogelijk alles kunnen snappen’. We zijn namelijk geen ICT’er. Loert het gevaar dat we op zeker moment helemaal geen grip meer hebben op de risico’s van een samenleving die iedere dag meer vervlochten raakt met een digitale parallelwereld? Over die vraag gaan wij het hebben op onze CFO Day 2021.

Keep Calm and…
Het risico van onze toenemende afhankelijkheid van technologie en IT kent grofweg twee smaken. Het eerste risico hebben we min of meer zelf in de hand: de mate waarin wij onze menselijke beslissingen laten bepalen door Artificial Intelligence (Ai) en Big Data. Het Toeslagen-schandaal wordt in Nederland regelmatig genoemd als voorbeeldcasus waarin de menselijke maat volledig werd ondergesneeuwd door een perverse manier van omgaan met data en statistiek. Een correlatie tussen het plegen van toeslagenfraude en het hebben van een Bulgaars paspoort, leidde tot een geautomatiseerde fraudescreening van Nederlanders met een migratie-achtergrond, waarbij ieder foutje of onregelmatigheid in aanvraagformulieren werd behandeld als een geval van oplichting. Het blind varen op verkeerd geïnterpreteerde meta-data had afschuwelijke gevolgen: gebroken gezinnen, verwoeste levens, kinderen die zijn opgegroeid in armoede. Maar er zijn meer voorbeelden van uit de hand gelopen vertrouwen op ‘slimme techniek’. Berucht is de blunder van Amazon dat een scripted programma gebruikte om zinnen te genereren voor t-shirtvariaties op ‘Keep Calm and… ’, tot het moment dat er T-shirts op de website verdwenen met de tekst ‘Keep Calm and Rape A Lot’.

Tegelijkertijd schuilt juist in de ‘menselijke controle over IT’ een ander nachtmerriescenario. Te midden van onze totale afhankelijkheid van IT en technologie - eigenlijk in alle dimensies van onze fysieke wereld - hebben we als samenleving nog geen antwoord op de vraag: wat als ‘onze’ IT in handen komt van criminelen en vijandige staten die onze samenleving doelbewust ondermijnen, of wanneer we in eigen land te maken krijgen met een politiek regime dat het niet zo op heeft met onze democratische waarden? De digitale transformatie en de impact die het heeft op onze fysieke wereld brengt risico’s met zich mee die zo reëel en alomtegenwoordig zijn dat we ze misschien helemaal niet willen zien.

Artificial Intelligence gone wrong
Maar terug naar de slimme algoritmes - een gevaar dat we misschien nog wel in de hand hebben. Wie een half uurtje googelt op ‘big data blunders’ heeft leesvoer voor dagen. Van de 16.000 verdwenen Covid-files bij de Public Health Engeland door een database die automatisch files verwijdert vanaf een bepaald maximum, tot medische algoritmes die ‘people of colour’ een lager gezondheidsrisico toeschrijft op basis van ‘in het verleden gemaakte zorgkosten’ in plaats van op basis van hun daadwerkelijke klachten.

Ook de financiële sector is niet veilig voor Articial Intelligence gone wrong. Bekend is de ‘flitscrisis’ in 2010 waarbij binnen enkele minuten duizend miljard dollar aan aandelenwaarde verdampte door onbedoelde interacties tussen machines. Of neem de Dow Jones Newswire. In 2017 werd automatisch een bericht de wereld in gestuurd over de aankoop van Apple door Google, een fake nieuwtje dat louter voor een technische test bedoeld was. Maar de geautomatiseerde handelsrobots reageerden binnen milliseconden, met grote gevolgen voor de aandelenkoersen.

Frank Verbeeten, hoogleraar aan de Faculteit Economie en Bedrijfskunde aan de UvA houdt zich onder meer bezig met de invloed van technologie op de inrichting en de rol van de financiële functie binnen organisaties. Welke risico’s ziet hij in het blind varen op slimme algoritmes? Verbeeten: “Het is algemeen bekend dat het werken met algoritmes zich er in kan uiten dat bepaalde groepen in analyses worden bevoordeeld, of benadeeld. Google ziet het zelfs als een van de grootste problemen bij het werken met data. Een bekend voorbeeld hiervan komt uit de Amerikaanse rechtspraak waarbij werd vastgesteld dat afro-Amerikanen en Amerikanen met een Mexicaanse achtergrond onevenredig zwaar werden gestraft wanneer je alleen algoritmes toe zou passen.”

Correlatie en causaliteit
Eigenlijk zit het risico niet zozeer in de techniek zelf, maar in de ‘menselijke fout’ niet goed genoeg na te denken over statistiek. Het verschil tussen causaliteit en correlatie, wordt volgens Verbeeten te vaak te weinig begrepen: terwijl dat juist heel belangrijk om te maken als je gaat werken met data en algoritmes: “Wij hebben weleens een case gehad in een college waarin werd gekeken naar verlieslijdende bouwprojecten en het aantal wisselingen van projectleiders. De controller in de zaal concludeerde op basis van de correlatie tussen mislukte projecten en het aantal wisselingen van projectleider, dat de oplossing van het probleem lag in minder projectleiders wisselen. Toen vroeg ik of er ook iemand in de zaal zat uit de bouw om te vertellen wanneer men wisselde van projectleider, was het antwoord: zodra een bouwproject in de soep loopt.”

Algoritmes zijn goed in het analyseren van data, maar oorzaak en gevolg uit elkaar houden is al lastig. Financials met een goed inzicht in de business kunnen daarom een belangrijke rol spelen in het toepassen van Artificial Intelligence. Verbeeten: “Je kunt data alleen echt goed analyseren als je ook werkelijk kennis hebt van het onderliggende proces. Als je dit vertaalt naar de rol van de financiële organisatie binnen een bedrijf, dan zie je direct hoe belangrijk het is om kennis te hebben van business wanneer je werkt met data. De data scientists hebben die businesskennis in principe niet, wat die zitten te ver van het operationele proces af. Als het goed is heeft de financial niet alleen gevoel voor cijfers, maar ook inzicht in de werkelijkheid achter de cijfers.”

Verpletterd door algoritmes
Volgens Verbeeten valt er nog wel een slag te maken in het bewustzijn van de financial rondom de maatschappelijke risico’s van data en digitalisering. De UvA-faculteit houdt met enige regelmaat surveys onder financials en CFO’s over de digitale transformatie. In 2020 nog werden 120 CFO’s en andere financials ondervraagd over de issues op het gebied van data die zij belangrijk vonden. Verbeeten: “Wat je ziet is dat ethische vraagstukken over wat er met data gebeurt tamelijk onderaan de prioriteitenladder staan. CFO’s maken zich vooral druk over vraag of hun organisatie wel data-driven genoeg is. Het opschalen van data-automatisering en het koppelen van data uit verschillende silo’s staat hoog op het problemenlijstje van de CFO. Het controleren van de consequenties als de machine eenmaal aan de praat is, wordt nog niet helemaal overzien. Daar ligt wel een probleem in de toekomst.”

De financial staat overigens niet alleen in zijn onbekommerdheid als het gaat om de gevaren van AI. Recent nog kwam het Impact Centre Erasmus, verbonden aan de Erasmus Universiteit Rotterdam, naar buiten met een onderzoek uitgevoerd onder 100 Nederlandse MVO-professionals: Verpletterd door algoritmes. Ruim 75% van de ondervraagde organisaties en bedrijven bleek geen visie te hebben op ‘ethisch datamanagement’.

Cybercrime: geen issue voor finance?
Een andere opvallende uitkomst van het UvA-onderzoek onder financials: ook het onderwerp cybersecurity staat relatief laag op de prioriteitenladder. Verbeeten vermoedt overigens dat security-bewustzijn wel leeft, maar dat men er op vertrouwt dat ‘ICT het wel regelt’ - een gevaarlijk idee volgens Verbeeten: “Finance heeft beschikking over veel data - en als het gaat om ‘eigenaarschap’ van data, zie je dat er binnen bedrijven meestal voor wordt gekozen wordt om het eigenaarschap van data in de specifieke functie te laten.” Verbeeten kent zelf weinig grote ‘specifiek financiële’ IT-security issues die het nieuws hebben gehaald. Een harde verklaring heeft hij hier niet voor, al werpt hij op dat data over operationele processen misschien interessanter is voor hackers dan hardcore financiële data zoals het jaarverslag. Toch is data-security volgens Verbeeten zeker wel een issue dat de financial en de financiële wereld raakt, zij het indirect. De financiële schade die wordt veroorzaakt door cybercrime en ransomware is namelijk levensgroot. In 2017 presenteerde Deloitte een groot onderzoek naar de schade die digitale misdaad toebrengt aan de Nederlandse economie. Die schade werd toen geschat op 10 miljard euro per jaar. En daarmee zijn we aanbeland bij het andere duistere randje van onze Brave New World: het digitale gevaar dat niet zozeer ligt bij ‘autonome algoritmes’, maar bij mensen van vlees en bloed die ‘onze’ IT - en onze afhankelijkheid ervan - gebruiken om onze wereld te ontwrichten.

Meer lezen over cybercrime en wat dit betekent voor de financial?

Lees het hele artikel op CFO.nl