Wat stuurt je AI-assistent mee als hij het internet op gaat?

Je assistent leest het web, maar het web leest ook mee

Je vraagt een AI-assistent om even uit te zoeken wat een leverancier rekent, of om de openingstijden van een klant op te halen. Handig, want hij gaat zelf het internet op en komt terug met een antwoord. Wat je niet ziet: om dat antwoord te krijgen stuurt hij zelf ook iets weg. Een zoekopdracht, een webadres, soms een ingevuld formulier.

Meestal is dat onschuldig. Maar staat er in je opdracht een klantnaam, een mailadres of een bedrag, dan kan dat zomaar in een zoekopdracht of webadres belanden. En dat komt terecht in de logbestanden van een website waar je nog nooit van gehoord hebt.

Waarom dit nu speelt

Anthropic voegde op 3 november een kleine maar veelzeggende controle toe aan Claude Code, zijn assistent die zelfstandig taken op je computer en op het web uitvoert. Wil de assistent via een webopdracht of een opdracht op je computer het e-mailadres van je account naar buiten sturen, dan vraagt hij nu eerst toestemming. In dezelfde update waarschuwt hij als een geplande taak koppelingen meekrijgt waar je niet om hebt gevraagd.

Dat Anthropic hier een aparte controle voor bouwt, zegt iets. Een assistent die zelfstandig het web op gaat, neemt gegevens mee naar buiten zonder dat iemand er bewust voor kiest. Soms omdat een website erom vraagt. Soms omdat het e-mailadres toevallig in de context zat. Een webpagina kan zelfs een verstopte opdracht bevatten die de assistent vraagt iets terug te sturen; hoe dat werkt lees je in onze uitleg over verstopte instructies in wat je AI leest.

Waar je gegevens onderweg terechtkomen

Als een AI-assistent het internet op gaat, kunnen je gegevens op vier plekken belanden:

• In de zoekopdracht. Vraag je "zoek uit of Bakkerij De Vries in Tilburg al klant is bij een concurrent", dan gaat die naam naar een zoekmachine.
• In een webadres. Veel websites zetten zoektermen of filters in de link. Die link komt in de logbestanden van de site en soms ook bij de bezoekersstatistieken van derden.
• In een formulier. Een assistent die een contactformulier of een offerteaanvraag invult, vult in wat hij weet. Dat kan meer zijn dan jij zou invullen.
• In de identificatie van de assistent zelf. Sommige sites vragen geautomatiseerde bezoekers om contactgegevens. Een behulpzame assistent geeft die, als niemand hem tegenhoudt.

Geen van deze plekken is een datalek in de klassieke zin. Het zijn wel gegevens van jou of je klanten bij partijen waar je geen afspraken mee hebt. Gaat het om persoonsgegevens, dan heb je daar onder de AVG gewoon een verantwoordelijkheid voor. In onze post over de AVG en klantdata in AI-tools staat wat dat in de praktijk betekent.

Vijf afspraken die het meeste opleveren

Je hoeft hier geen beveiligingsproject van te maken. Deze vijf afspraken dekken het grootste deel:

1. Weet welke van je AI-tools het internet op kunnen. Zoeken, pagina's ophalen, een browser bedienen of opdrachten op je computer uitvoeren: dat zijn de uitgangen. Een assistent zonder die mogelijkheden kan ook niets naar buiten sturen. Zet het lijstje op een half A4'tje.
2. Zet geen klantgegevens in een opdracht die het web op moet. Vraag "wat rekenen installateurs gemiddeld voor een cv-ketel?" Het antwoord is even bruikbaar zonder de naam en het adres van je klant erbij.
3. Geef een assistent die zelfstandig werkt een eigen account met een algemeen mailadres. Zo staat er geen persoonlijk adres van een medewerker in zijn context dat ergens kan opduiken.
4. Kijk bij geplande taken welke koppelingen ze meekrijgen. Een taak die elke ochtend nieuws samenvat heeft geen toegang tot je mailbox of je boekhouding nodig. Krijgt hij die toch, haal ze weg.
5. Klik een toestemmingsvraag niet weg. Vraagt een assistent of hij iets mag versturen, lees dan wat er precies gaat. Juist die vraag is het moment waarop je iets voorkomt.

Wat dit kost en wat het oplevert

De eerste ronde kost je een uur: lijstje maken van tools die het web op gaan, geplande taken nalopen en de afspraak met je team bespreken. Daarna is het een gewoonte die geen extra tijd vraagt.

Wat je ervoor terugkrijgt is lastiger in euro's uit te drukken, maar wel concreet. Je hoeft een klant nooit uit te leggen waarom zijn naam in de zoekgeschiedenis van een vreemde dienst stond. En als je over een jaar meer taken aan AI overlaat, staat de basis al. Dat scheelt een opruimactie op het moment dat er al tientallen automatiseringen draaien.

Waar het niet bij helpt

Eerlijk is eerlijk: deze afspraken lossen niet alles op. Wat je zelf in een AI-chat plakt, gaat in elk geval naar de aanbieder van die AI. Dat is een andere vraag, die je regelt met een zakelijk account en een verwerkersovereenkomst. En een assistent die een gehackte website bezoekt, kan nog steeds onzin terugbrengen. Controleer dus ook wat er binnenkomt.

Waar de afspraken wel bij helpen, is het stuk dat je makkelijk over het hoofd ziet: wat je assistent onderweg zelf naar buiten stuurt.

Zo pakken we het bij NOVAITEC aan

Als we een automatisering bouwen die het web op gaat, scheiden we twee dingen. De stap die zoekt of ophaalt krijgt alleen algemene zoektermen. De stap die met klantgegevens werkt, komt niet bij het internet. Daartussen zit een duidelijke overdracht, zodat je precies kunt zien wat waar terechtkomt. Het kost bij de bouw een paar extra minuten en voorkomt dat gegevens ongemerkt meelopen.

Benieuwd wat jouw AI-tools onderweg naar buiten sturen? We kijken het graag samen met je door.