Gevreesde EU AI Act is vanaf deze week van kracht

Vanaf deze week verbiedt de EU AI Act het gebruik van een aantal AI-praktijken. Veel organisaties realiseren zich dat onvoldoende, signaleert data- en AI-consultancy ADC. Ook het onbewust toepassen van verboden AI-praktijken is echter een bedrijfsrisico. Een boete kan oplopen tot 30 miljoen euro of zes procent van de wereldwijde jaaromzet van het bedrijf.

Veel bedrijven beschikken volgens ADC niet over de nodige controlesystemen en richtlijnen om het verantwoord gebruik van AI-praktijken te waarborgen en het risicomanagement optimaal uit te voeren. Dat onvermogen wordt versterkt doordat steeds meer software geleidelijk AI-functionaliteiten uitrollen in updates. Vaak ishet niet duidelijk of, waar en in hoeverre AI wordt ingezet.

In de verordening is een specifieke lijst opgesteld wat niet meer mag.  Dit komt neer op een verbod op discriminatie, uitbuiting van kwetsbaarheden, bedreigingen voor de persoonlijke veiligheid, en het veroorzaken van machts-, hulpbronnen- of invloedsonbalans.

De AI Act wordt sinds augustus 2024 gefaseerd ingevoerd. Niet alleen specifieke AI-praktijken zijn verboden (Prohibited Practices), bedrijven moeten hun AI-geletterdheid vergroten. Het volstaat niet om dit door specialisten zoals data scientists te laten verankeren. Omdat steeds meer werknemers AI gebruiken, is het van cruciaal belang dat zij ook weten hoe ze AI effectief gebruiken en wat de risico’s zijn.

De volgende implementatiefase – die over enkele maanden plaatsvindt – van de EU AI Act is nog belangrijker: het adresseren van de maatregelen die bij hoogrisico AI-systemen komen kijken. Deze systemen zijn niet verboden, maar brengen wel aanzienlijke risico’s met zich mee. Ze hebben een directe impact op fundamentele rechten van burgers. Daarom is het uiterst belangrijk om het risicomanagement hiervoor optimaal in te richten.