AI kan een fraudepoging in een gesprek zien voordat je geld overmaakt

Het bericht dat klopt tot het te laat is

Een leverancier mailt dat zijn rekeningnummer is gewijzigd. Een appje van een onbekend nummer, maar met de naam van je directeur eronder, vraagt of je snel even een factuur kunt voldoen. Het taalgebruik is netjes, de toon is urgent en er zit geen rare bijlage bij. Precies daarom werkt het. De fraudepogingen die bij een MKB-bedrijf binnenkomen draaien zelden om een virus of een gehackte server. Het gaat om een gesprek.

Dat maakt ze zo lastig te stoppen. Een spamfilter kijkt naar afzenders, links en bijlagen. Een gesprek dat je langzaam naar een betaling praat heeft die kenmerken niet. Daar heb je iemand voor nodig die het patroon herkent. In de praktijk is dat een drukke medewerker die om half vijf nog twintig berichten open heeft staan.

Wat Google en Singapore deze week lieten zien

Op 14 oktober presenteerden Google DeepMind en GovTech Singapore op Singapore International Cyber Week een model dat precies dat patroon herkent. Het is een bijgewerkte Gemma-variant die meeleest in privéberichten en waarschuwt wanneer een gesprek de vorm van een fraudepoging krijgt. Denk aan iemand die zich voordoet als een bank of een overheidsinstantie, die haast opvoert en die vraagt om gegevens of om geld.

Twee dingen maken het interessant voor een ondernemer. Het eerste is dat de analyse op het toestel zelf gebeurt. Er gaat geen gespreksinhoud naar een server. Dat is ook de enige manier waarop het kan: de meeste berichtenapps zijn end-to-end versleuteld, dus een centrale scanner komt er simpelweg niet bij. Het tweede is de opzet in twee stappen. Een lichte controle leest elk binnenkomend bericht mee en kost vrijwel geen batterij. Slaat die aan, dan kijkt het zwaardere Gemma-model naar een groter stuk van het gesprek.

Google en GovTech hebben nog geen datum genoemd waarop dit publiek beschikbaar komt. Het model is daarnaast gemaakt op Singaporese fraudegevallen. Wat hier telt is dus niet dit ene model. Het telt dat het herkennen van gespreksfraude klein genoeg is geworden om op een telefoon te passen.

Waarom dit niet alleen een telefoonverhaal is

Jouw bedrijf heeft dezelfde soort kanalen. Een algemene info-inbox, een WhatsApp Business-nummer, een chat op de website en misschien een telefoonlijn. Daar komt van alles binnen: echte klantvragen, ruis en af en toe iemand die iets probeert. De techniek die een fraudepatroon in een privéchat ziet, werkt op precies hetzelfde signaal in jouw inbox. Dat scheelt je de situatie waarin iemand op vrijdagmiddag in zijn eentje moet beoordelen of een betaalverzoek echt is.

En de patronen zijn verrassend stabiel. Een poging tot factuurfraude ziet er bijna altijd zo uit: een bestaande relatie wordt aangehaald, er is een wijziging in betaalgegevens, er is tijdsdruk en er is een reden waarom je niet even moet bellen om het te checken. Dat is te beschrijven. En wat je kunt beschrijven, kun je een model laten herkennen.

Hoe je dit vandaag al kunt inrichten

Je hoeft niet te wachten op een Gemma-model op je telefoon. De bouwstenen zijn er. Een automatisering die je mail of je WhatsApp-berichten leest, kan elk bericht langs een korte beoordeling sturen voordat het bij een mens komt. Wij bouwen dat meestal in n8n, omdat je daar zelf kunt bepalen waar de data langs gaat en wat er bewaard wordt.

De beoordeling zelf is een prompt. Iets in de geest van: "Beoordeel dit bericht op de kenmerken van factuurfraude: een wijziging in betaalgegevens, tijdsdruk, een reden om niet te verifiëren via een bekend kanaal, en een afzender die niet exact overeenkomt met een bestaande relatie. Geef een score van 0 tot 10 en noem de kenmerken die je ziet."

Wat je met die score doet, is de eigenlijke keuze. Een paar opties die in de praktijk werken:

• Bij een hoge score een label op het bericht en een regel in een apart kanaal, zodat iemand het bewust oppakt.
• Bij een wijziging van betaalgegevens altijd een blokkade, ongeacht de score. Dit is te duur om aan een model over te laten.
• Een wekelijks overzicht van wat er is langsgekomen, zodat je ziet welke trucs bij jou worden geprobeerd.

Begin bij één kanaal. De inbox waar facturen binnenkomen is bijna altijd de juiste eerste.

De grens: het model beslist niet over de betaling

Hier gaat het vaak mis. Een model dat fraude herkent voelt als een oplossing. Vervolgens verdwijnt de menselijke controle omdat het systeem er toch naar kijkt. Dat is een slechter resultaat dan geen model.

Houd het dus scherp. Het model signaleert en een mens beslist. Bij een betaling naar een nieuw of gewijzigd rekeningnummer blijft de regel hetzelfde als altijd: bellen via een nummer dat je zelf hebt opgezocht, nooit via het nummer in het bericht. Dat kost dertig seconden en het is de enige stap die ook werkt wanneer de fraudepoging slimmer is dan je filter.

Het omgekeerde geldt ook. Een model dat iets niet markeert, is geen bewijs dat een bericht in orde is. Behandel een lage score als afwezigheid van een signaal.

Wat dit betekent voor je klantcontact

Er zit nog een kant aan. Dezelfde modellen die fraude herkennen, worden gebruikt om fraude te maken. Een nepbericht in vlekkeloos Nederlands kost inmiddels niets. Hetzelfde geldt voor een gesproken bericht dat klinkt als een bekende stem. We schreven eerder over hoe snel spraak-AI een gesprek kan voeren. Die techniek staat voor iedereen open.

Dat heeft een praktisch gevolg voor hoe je met je eigen klanten communiceert. Spreek vaste gewoontes af en houd je eraan. Betaalgegevens wijzigen we nooit per mail. Een urgente factuur sturen we nooit buiten het gebruikelijke kanaal. Zet het op je site en noem het in je mailvoet. Je klanten krijgen dan een vast punt waaraan ze een nepbericht kunnen afmeten en dat is waardevoller dan welk filter ook.

Waar je zou beginnen

Als je hier vandaag een half uur in wilt stoppen, zou ik dit doen:

1. Kies het kanaal waar betalingsverzoeken binnenkomen en kijk wie daar nu naar kijkt.
2. Schrijf in drie regels op hoe een fraudepoging bij jullie eruitziet. Vraag het aan degene die de facturen doet, die kent de voorbeelden.
3. Spreek één harde regel af voor gewijzigde betaalgegevens en leg die vast.
4. Zet daarna pas een model ertussen, als eerste beoordeling en nooit als beslisser.

Die eerste drie stappen kosten geen techniek en halen het grootste risico er al uit. De vierde maakt het schaalbaar wanneer je volume groeit.

Benieuwd hoe zo'n controle in jouw inbox zou werken? We kijken het graag samen met je door.