Deepfakes zaaien twijfel over betrouwbaarheid informatie

Negentig procent van de Nederlandse medewerkers vindt deepfakes inmiddels zo realistisch dat het lastig is te bepalen welke informatie te vertrouwen is. Twee op de drie medewerkers denkt zelf slachtoffer te kunnen worden van deepfake-oplichting op de werkvloer.

Dat blijkt uit recent onderzoek waarnaar Martin Krämer, CISO Advisor bij KnowBe4, verwijst naar aanleiding van de recente hack bij telecomaanbieder Odido. Omdat de kwaliteit van deepfake-stemmen snel toeneemt, is het volgens Krämer steeds moeilijker om op basis van een stem alleen de authenticiteit van een gesprekspartner te beoordelen.

Beveiliging omzeilen

Cybercriminelen richten hun aanvallen vaak op medewerkers, omdat één overtuigend telefoongesprek al voldoende kan zijn om beveiligingsmaatregelen te omzeilen. Ze doen zich voor als een collega, leverancier of IT-medewerker en creëren tijdsdruk of beroepen zich op vermeende autoriteit om slachtoffers tot snelle actie te verleiden. Dat wordt lastiger nu AI overtuigend menselijke stemmen kan nabootsen.

Volgens Krämer zouden medewerkers én AI-agents zich niet alleen moeten richten op het herkennen van deepfakes, maar op het signaleren van manipulatief gedrag: onverwachte urgentie, druk om procedures te omzeilen of verzoeken om gevoelige informatie, inloggegevens of toegangsrechten te delen.

Doelwit van manipulatie

AI-agents binnen organisaties krijgen intussen steeds vaker de bevoegdheid om informatie op te zoeken, processen uit te voeren of beslissingen voor te bereiden. Zonder duidelijke grenzen en verificatieregels kunnen ook zij een doelwit van manipulatie worden, bijvoorbeeld via misleidende instructies of prompt injections. “Vertrouwen mag daarom nooit uitsluitend gebaseerd zijn op een stem, een tekst of een AI-opdracht”, stelt Krämer.

Organisaties moeten telefonische verificatie net zo serieus nemen als digitale beveiliging, aldus Krämer. Dat betekent duidelijke procedures, een verplichte tweede controle bij gevoelige verzoeken en doorlopende security awareness-trainingen. Daarnaast moeten er grenzen gelden voor welke informatie AI-agents mogen gebruiken en welke acties zij zelfstandig mogen uitvoeren, en moet helder zijn wanneer een mens altijd de beslissing neemt.