Expert: “Onbewustzijn gebruiker chatbots een risico”

08 augustus 2024

Autoriteit Persoonsgegevens komt met rapport.

De voorbeelden op basis waarvan de Autoriteit Persoonsgegevens waarschuwt voor het gebruik van chatbots, laten precies zien waar het probleem zit als het gaat om AI: Onbewustzijn, een gevoel van ‘dat overkomt mij niet’ of perceptie van controle, zo stelt expert Reinier van Leuken (Salesforce). “We zien het natuurlijk ook met social media. Zet niet alles zomaar online. En praat dus ook niet met een publieke en open chatbot over zaken die je ook niet op social media zou zetten. We moeten dan ook niet waarschuwen voor het gebruik van chatbots, maar voor het gebruik van persoonlijke gegevens”.

Autoriteit Persoonsgegevens benadrukt risico’s van AI-gebruik.
Waarschuwen voor gebruik van persoonlijke gegevens in plaats van alleen chatbots.
Voorzichtigheid geboden bij het delen van gevoelige informatie.

Onvermijdelijkheid van AI-gebruik en onderzoekresultaten

We kunnen er niet omheen dat mensen chatbots gaan gebruiken. In een eerder onderzoek van Salesforce kwam naar voren dat onder 1.000 Nederlanders 43 procent van de respondenten AI op het werk zonder toestemming te gebruiken. Dat is een enorm hoog percentage, maar het laat ook zien hoe graag mensen het zichzelf met behulp van AI makkelijk willen maken. [Artikel gaat verder onder het kader]

Kernboodschappen van het voorjaarsrapport AI- & Algoritmerisico’s Nederland (RAN) van het AP:

Waakzaamheid bij iedereen: Het AI-risicobeeld vraagt onverminderd om waakzaamheid bij iedereen – van ministers tot burgers en van CEO’s tot consumenten – omdat (i) het moeilijk is in te schatten of AI-toepassingen voldoende beheerst zijn en (ii) AI-incidenten zich steeds vaker kunnen voordoen, zeker omdat AI zich steeds dieper verweeft in de samenleving.
Nieuwe AI-systemen en risico’s: Veel nieuwe AI-systemen en (mogelijke) risico’s springen in het oog. Van experimenteerdrift door bigtechbedrijven tot het volop inzetten van AI in situaties waarin mensen kwetsbaar zijn. Dit gaat gepaard met grondrechtenkwesties en rechtmatigheidsvraagstukken.
Informatievoorziening onder druk: Informatievoorziening is essentieel voor het functioneren van de democratie, maar staat onder druk door de inzet van AI-systemen. Dit geldt voor moderatie, distributie en contentcreatie met generatieve AI, wat invloed heeft op desinformatie en het publieke debat.
Democratische controle van AI-systemen: Voorwaarden voor adequate democratische controle van AI-systemen zijn op dit moment onvoldoende ingevuld. De democratische sturing en controle moet mogelijk zijn tijdens elke fase van ontwikkeling, inzet en evaluatie van een AI-systeem, maar momenteel ontbreekt het aan capaciteit en expertise.
Aselecte steekproef als instrument: De aselecte steekproef is een waardevol instrument om de risico’s bij profilerende en selecterende AI-systemen te verminderen. Het helpt bij het monitoren van discriminatierisico’s en het meten van efficiëntie in processen zoals fraudedetectie.
Inwerkingtreding AI-verordening: De inwerkingtreding van de AI-verordening (begin augustus 2024) is een mijlpaal, met als punt van zorg (i) de lange overgangstermijn (tot en met 2030) voor bestaande AI-systemen met een hoog risico binnen de overheid en (ii) de vraag of stevige en werkbare productstandaarden tijdig gereed zijn.
Algoritmeregistratie als prioriteit: Bij de verdere uitwerking van het regeerprogramma adviseert de AP om onverminderd prioriteit te geven aan algoritmeregistratie door overheidsorganisaties en na te denken over registratie door semi-publieke organisaties om wildgroei in standaarden te voorkomen.
Beheersing van AI-systemen: De AP spant zich in voor het vergroten van de beheersing van AI-systemen, waarbij (i) een wildgroei aan kaders moet worden voorkomen en (ii) een herijking van de nationale AI-strategie kan bijdragen aan het verdere ecosysteem voor ontwikkeling en controle van AI-systemen.

Lees hier het volledige rapport: Rapportage AI- & Algoritmerisico’s Nederland (RAN) – voorjaar 2024 | Autoriteit Persoonsgegevens

Richtlijnen en investeringen in beveiliging

Richtlijnen, kaders en training zijn cruciaal en voor bedrijven geldt dat het belangrijk is te investeren in diensten waarmee ze beveiligings- en privacyafspraken kunnen maken. “Gebruik een veilige, door het bedrijf goedgekeurde chatbot die zorg draagt voor bescherming van gegevens, bijvoorbeeld door gevoelige data te maskeren voordat deze gebruikt wordt door AI”.

Leadership in Finance Summit 2024: AI makes you do it!

Bepaal jij wat AI voor je doet, of bepaalt AI straks wat jij zult doen? Kom hierover in gesprek op 7 november met 300 vakgenoten en experts tijdens Leadership in Finance Summit 2024 in Amersfoort. Meld je nu gratis aan en ontdek hoe AI jouw rol van finance leader herdefinieert.

Ja, ik meld me aan

Redactie FM