AFM: afhankelijkheid van AI dreigt voor financiële sector

Financiële bedrijven lopen steeds meer risico om afhankelijk te worden van AI-systemen die ze niet volledig begrijpen of kunnen beheersen. Dit komt omdat steeds meer assetmanagers kunstmatige intelligentie inzetten, zonder dat processen, kennis en controles meegroeien. De investeringen voor deze beheersing van AI is nodig, maar er is onvoldoende budget voor. Tegelijk verwachten financiële bedrijven deze uitgaven de komende jaren wél moeten stijgen om bij te blijven.

Hiervoor waarschuwt de financiële waakhond AFM. Die wijst naar financiële bedrijven die voorop lopen in het gebruik van AI, onder meer voor analyse, prijsvoorspellingen en het verbeteren van handelsstrategieën.

Met de groei van kunstmatige intelligentie nemen ook de risico’s toe, zo waarschuwt de AFM. “Denk aan slechte datakwaliteit, vertekening in algoritmes, beperkte uitlegbaarheid en afhankelijkheid van een klein aantal technologieaanbieders. Tegelijk blijkt dat veel instellingen hier nog niet goed op zijn voorbereid.”

Volgens de AFM verwachten financiële bedrijven en instellingen voorlopig weinig directe kostenbesparing door de inzet van AI. “Ze zien vooral voordelen in efficiënter en sneller werken, betere dataverwerking en verbeterde interne processen.”

Een kwart van de financiële bedrijven en instellingen heeft geen beleid rondom het gebruik van kunstmatige intelligentie door werknemers. Bij generatieve AI-toepassingen is dat aandeel nog veel groter: ruim tweederde. Ook beschikt meer dan de helft niet over een ethisch handboek of gedragscode die specifiek ingaat op kunstmatige intelligentie.

De AFM roept daarom de financiële sector op om na te gaan of zij voldoende zijn ingericht op de toepassing van kunstmatige intelligentie, bijvoorbeeld door duidelijk beleid op te stellen rondom het gebruik, toe te zien op goede datakwaliteit, leveranciers zorgvuldig te toetsen en te zorgen dat medewerkers met uitlegbare en controleerbare modellen werken.