Moderne technologieën hebben ons leven op vele manieren verbeterd en vereenvoudigd. Helaas brengen ze ook nieuwe gevaren met zich mee, zoals stemoplichting met behulp van Large Language Models (LLM).
Bij deze opkomende vorm van fraude worden geavanceerde, neurale netwerken gebruikt om realistische stemopnames te genereren. Hiermee doen oplichters zich voor als iemand anders en misleiden zo hun slachtoffers. In dit artikel is te lezen hoe het werkt, bespreken we de verwoestende gevolgen ervan en hoe je je ertegen wapent.
Wat zijn Large Language Models?
LLM’s zijn geavanceerde neurale netwerken die zijn getraind op grote hoeveelheden tekstdata. Ze zijn in staat om natuurlijke taal te begrijpen, te genereren en te reageren op tekstuele input. Door hun vermogen om menselijke spraak en conversatie na te bootsen, kunnen ze worden misbruikt voor kwaadwillende doeleinden, zoals stemoplichting.
Stemoplichting met LLM’s brengt aanzienlijke risico’s met zich mee. Slachtoffers worden overgehaald om geld over te maken, gevoelige informatie te onthullen of zelfs schadelijke handelingen uit te voeren. Dat doen ze simpelweg omdat ze geloven dat ze met een vertrouwd persoon spreken. De geavanceerde technologie en realistische vervalsingen maken het voor slachtoffers moeilijk om onderscheid te maken tussen echt en nep.
Marion (56) is slachtoffer van stemoplichting
Deze nieuwe manier van oplichting komt sinds kort in Nederland voor, laat de politie aan RTL Nieuws weten. De stem van een vriend of familielid wordt daarbij gekloond door kunstmatige intelligentie. Dat dat nu in Nederland gebeurt, is ’te gek voor woorden’, zegt een politiewoordvoerder. Marion deelt haar verhaal. Er werd met een anoniem nummer gebeld, en normaal zou ze zo’n telefoontje laten gaan. “Maar mijn man was anderhalve week daarvoor overleden. Zijn zuurstofapparaat stond nog hier, dus ik dacht: misschien is het wel het bedrijf dat het zuurstofapparaat wil komen ophalen. Ze nam op en hoorde haar zoon zeggen: “Ze is dood, ze is dood mam!” Hij huilde, was compleet in paniek. Over zijn toeren vertelde hij dat ‘ze’ dood was. “Help me mam!”, riep hij. Haar werd verteld dat haar zoon een motorongeluk had veroorzaakt, waarbij een jonge moeder was overleden. De familie zou geen aangifte doen, als haar zoon de uitvaartkosten betaalde. Op het moment dat ze er meer over wilde weten, stapte haar zoon de kamer binnen. Geluk bij een ongeluk. Als haar zoon een paar uur later kwam, had ze het geld waarschijnlijk overgemaakt.
Hoe werkt stemoplichting met LLM’s?
Stap 1: Verzamelen van stemvoorbeelden
Oplichters beginnen met het verzamelen van stemvoorbeelden van hun beoogde slachtoffers. Deze voorbeelden kunnen afkomstig zijn van publiekelijk beschikbare spraakopnames, zoals interviews, podcasts of toespraken.
Stap 2: Trainen van het LLM-model
Vervolgens gebruiken oplichters deze stemvoorbeelden om een LLM-model te trainen. Tijdens dit trainingsproces leert het model de unieke spraakkenmerken, intonatie en spreekstijl van het beoogde slachtoffer te herkennen en te reproduceren.
Stap 3: Genereren van vervalste stemopnames
Met het getrainde LLM-model kunnen oplichters vervalste stemopnames genereren. Ze voeden het model met tekstuele input, zoals een script of een conversatie, en het model genereert vervolgens realistisch klinkende spraak die sterk lijkt op de stem van het beoogde slachtoffer.
Stap 4: Misleiden van slachtoffers
De vervalste stemopnames worden gebruikt om slachtoffers te misleiden. Oplichters kunnen deze opnames inzetten tijdens telefoongesprekken, voicemailberichten of andere vormen van digitale communicatie om zich voor te doen als iemand anders, bijvoorbeeld een familielid, een bankmedewerker of een overheidsfunctionaris.
Risico’s en beschermingsmaatregelen
“Daarom moet je altijd bedenken”, legt de politie uit, “dat alles wat digitaal tot ons komt, gemanipuleerd kan zijn. We moeten hier een gezond wantrouwen tegen ontwikkelen. Vraag je dus bij zo’n telefoontje altijd af: is het wel écht de persoon die je denkt dat het is? En als je een handeling moet verrichten door bijvoorbeeld gegevens achter te laten of geld over te maken – en zeker in combinatie met een emotie zoals een huilend familielid – doe dan even een stapje terug. Hang bijvoorbeeld op en bel de persoon terug op het nummer dat jij van die persoon kent. Of vraag iets wat alleen hij of zij kan weten. En vraag dan niet naar de geboortedatum, maar écht iets unieks. Wat hij of zij gisteren heeft gegeten bijvoorbeeld”, aldus de politie.
Hoe bescherm je jezelf tegen stemoplichting?
- Wees waakzaam: Ontwikkel een gezond wantrouwen tegenover onverwachte telefoontjes, voicemailberichten of andere vormen van digitale communicatie waarbij je om persoonlijke informatie of geld wordt gevraagd. Wees vooral alert als het verzoek urgent lijkt of als er sprake is van een emotioneel beroep, zoals een huilend familielid.
- Verifieer de identiteit: Als je twijfelt aan de identiteit van de persoon aan de andere kant van de lijn, neem dan geen enkel risico. Bel terug op een bekend telefoonnummer of zoek naar officiële contactinformatie van de betreffende instantie om hun identiteit te verifiëren. Geef nooit persoonlijke informatie of financiële gegevens door aan iemand wiens identiteit je niet volledig kunt bevestigen.
- Bedenk een strikvraag: Om de oplichtingspoging te ontregelen, kun je onverwachte vragen stellen of onderwerpen aansnijden die niet in het verhaal passen. Door de oplichter uit balans te brengen, hebben ze moeite om geloofwaardig te reageren. Denk vooraf na over mogelijke vragen of onderwerpen die je gebruikt om het gesprek te verstoren. Vraag bijvoorbeeld wat de laatste keer was dat jullie elkaar zagen.
- Gebruik andere communicatiemiddelen: Als je twijfelt aan de echtheid van een telefoongesprek, kies er dan voor om op een andere manier contact op te nemen met de vermeende persoon. Gebruik bijvoorbeeld een bekend e-mailadres of bel rechtstreeks naar een eerder bekend telefoonnummer om de identiteit te verifiëren.
- Blijf op de hoogte: Houd jezelf op de hoogte van nieuwe oplichtingstechnieken en -methoden die worden gebruikt. Door op de hoogte te blijven, ben je alert op mogelijke bedreigingen en beter voorbereid om jezelf te beschermen.
Bron: NOS, RTL, Politie