Nieuwe AI-wet stelt strenge eisen aan bedrijven

De Europese Unie heeft een nieuwe AI-verordening aangenomen die strenge eisen stelt aan bedrijven die AI-systemen ontwikkelen of gebruiken. Vanaf medio 2027 moeten organisaties voldoen aan uitgebreide regels voor het verantwoord ontwikkelen en toepassen van artificiële intelligentie. Sommige AI-systemen worden zelfs al vanaf februari 2025 verboden. Bedrijven doen er goed aan zich nu al voor te bereiden op de nieuwe wetgeving. Dat staat in de Ai-Gids van de rijksoverheid, waarin onder meer de regelgeving voor bedrijven wordt uitgelegd en toegelicht.

• EU stelt strenge eisen aan AI-systemen vanaf 2025
• Bedrijven moeten AI-systemen indelen in risicocategorieën
• Transparantie verplicht bij gebruik generatieve AI en chatbots

De AI-verordening deelt AI-systemen in verschillende risicocategorieën in. Hoe hoger het risico voor veiligheid, gezondheid en fundamentele rechten, hoe strenger de eisen. Verboden AI-systemen mogen helemaal niet meer worden gebruikt. Voor hoog-risico AI gelden strenge voorwaarden. Generatieve AI en chatbots moeten voldoen aan specifieke transparantie-eisen. Bedrijven moeten bepalen in welke categorie hun AI-systemen vallen om te weten aan welke regels ze moeten voldoen. [Artikel gaat verder na de volgende alinea]

Verboden AI-systemen vanaf 2025

Vanaf februari 2025 worden bepaalde AI-praktijken verboden omdat ze een onaanvaardbaar risico vormen. Het gaat onder meer om systemen die menselijk gedrag manipuleren, kwetsbaarheden misbruiken of sociale scores toekennen. Ook real-time biometrische identificatie in openbare ruimten voor rechtshandhaving wordt verboden, met enkele uitzonderingen. Bedrijven moeten nagaan of ze dergelijke systemen gebruiken en deze tijdig uitfaseren.

Strenge eisen voor hoog-risico AI

AI-systemen die als hoog-risico worden aangemerkt, moeten vanaf augustus 2026 aan uitgebreide eisen voldoen. Dit geldt voor AI in bepaalde producten, zoals medische hulpmiddelen, en voor specifieke toepassingen in sectoren als onderwijs en rechtshandhaving. Aanbieders moeten tijdens de ontwikkeling al aan de eisen voldoen. Ook professionele gebruikers krijgen verplichtingen om risico’s te beperken. [Artikel gaat verder na de volgende alinea]

Transparantie verplicht bij generatieve AI

Voor generatieve AI-systemen en chatbots gaan specifieke transparantie-eisen gelden. Gebruikers moeten geïnformeerd worden dat ze met AI te maken hebben. Ook moet duidelijk zijn welke inhoud door AI is gegenereerd. Deze regels gelden onafhankelijk van het risiconiveau van het systeem. [Artikel gaat verder na de volgende advertentie]

Leadership in Finance Summit 2024: AI makes you do it!

Bepaal jij wat AI voor je doet, of bepaalt AI straks wat jij zult doen? Kom hierover in gesprek op 7 november met 300 vakgenoten en experts tijdens Leadership in Finance Summit 2024 in Amersfoort. Meld je nu gratis aan en ontdek hoe AI jouw rol van finance leader herdefinieert.

Ja, ik meld me aan

Bedrijven moeten rol bepalen

De verplichtingen verschillen voor aanbieders en gebruikers van AI-systemen. Aanbieders zijn verantwoordelijk voor de ontwikkeling en het in de handel brengen. Gebruiksverantwoordelijken zetten AI in onder eigen verantwoordelijkheid. Bedrijven moeten bepalen welke rol ze hebben om te weten aan welke eisen ze moeten voldoen.

Internationale ontwikkelingen rond AI-regulering

Ook buiten Europa worden stappen gezet op het gebied van AI-regulering. In de Verenigde Staten heeft president Biden onlangs een executive order ondertekend met richtlijnen voor veilige AI-ontwikkeling. Het Verenigd Koninkrijk organiseerde een AI Safety Summit waar wereldleiders afspraken maakten over verantwoorde AI-innovatie. Deze internationale ontwikkelingen kunnen de implementatie van de Europese AI-verordening beïnvloeden. [Artikel gaat verder na de volgende alinea]