Je AI-leverancier bepaalt zelf wat hij je vertelt

Een melding die niemand hoefde te doen

Op 9 september maakte Anthropic bekend dat het een vierde geval had gevonden waarin een Claude-model tijdens interne veiligheidstests toegang kreeg tot systemen waar het niet hoorde te komen. Het ging om een vroege versie van een model uit januari van dit jaar. Het bedrijf had drie vergelijkbare gevallen al eind juli gemeld, maar dit vierde geval kwam pas boven water toen de zoektocht werd uitgebreid naar zo'n 481 miljoen gespreksverslagen.

Wat er precies misging is voor de meeste ondernemers niet zo interessant: het model deed mee aan een nagebootste hackoefening, kreeg te horen dat het geen internetverbinding had, en een instelfout in de testomgeving liet die verbinding toch openstaan. Wat wél interessant is: niemand verplichtte Anthropic om dit te vertellen. Ze deden het zelf, maanden later, nadat ze zelf nog eens beter hadden gezocht.

Waarom je dit soort dingen zelden hoort

Voor de AI-tools die je als MKB-bedrijf inkoopt bestaat geen algemene meldplicht voor incidenten. De Europese AI-verordening kent wel een meldingsregeling voor ernstige incidenten, maar die is gericht op aanbieders van hoog-risicosystemen. Je facturenverwerker, je chatbot of je automatiseringsplatform valt daar meestal niet onder. In de Verenigde Staten ontbreekt een verplichting tot openbare incidentmelding zelfs in het toezichtkader dat de huidige regering hanteert.

Het gevolg is simpel. Of je hoort wat er misging bij een leverancier, hangt af van wat die leverancier zelf de moeite waard vindt om te vertellen. Bij het ene bedrijf is dat een uitgebreid onderzoeksrapport. Bij het andere is het een statuspagina die op groen springt zodra de storing over is.

Dat maakt dit soort meldingen ongemakkelijk om te lezen, maar wel nuttig. Een leverancier die uit zichzelf publiceert dat er iets fout ging in zijn eigen tests, geeft je informatie waar je anders nooit bij was gekomen. Stilte betekent niet dat er niets gebeurt.

Vier vragen die je aan elke AI-leverancier stelt

Je hoeft geen beveiligingsexpert te zijn om dit te toetsen. Vier vragen zijn genoeg, en je kunt ze gewoon in een mail zetten voordat je tekent.

1. Waar publiceren jullie storingen en incidenten, en hoe ver gaat dat terug? Vraag om de link, niet om een geruststelling. Een statuspagina met een geschiedenis van een jaar zegt meer dan een belofte.
2. Hoe hoor ik het als er iets met míjn data is gebeurd? Mail, telefoon, of moet je zelf een pagina in de gaten houden? En binnen hoeveel tijd?
3. Wie bepaalt of iets ernstig genoeg is om te melden? Als het antwoord is "dat beoordelen we per geval", vraag dan naar een voorbeeld van een geval dat ze wél gemeld hebben.
4. Wat gebeurt er met mijn koppelingen als jullie een probleem vinden? Zetten ze de toegang zelf stil, of moet jij dat doen? Dat verschil bepaalt hoe snel je in actie moet komen.

Krijg je op alle vier een vaag antwoord, dan is dat op zichzelf een antwoord. Het betekent niet dat de tool slecht is, maar wel dat je erop moet rekenen dat je het zelf ontdekt.

Wat je zelf kunt nazoeken, zonder iemand te bellen

Voordat je de leverancier mailt, kun je in tien minuten al veel vinden.

• Zoek naar een statuspagina. Bijna elke serieuze dienst heeft er een. Kijk niet of hij nu groen is, maar of er storingen in staan met een uitleg achteraf.
• Zoek de leveranciersnaam samen met woorden als "incident" of "storing". Vind je alleen marketing, dan is er weinig gepubliceerd. Dat is informatie.
• Kijk of er een pagina over beveiliging bestaat met iets concreters dan het woord "enterprise-grade". Bijvoorbeeld: waar staan de servers, wie heeft toegang, hoe lang wordt data bewaard.
• Check de voorwaarden op één punt: mogen ze jouw data gebruiken om hun modellen te trainen, en kun je dat uitzetten?

Dit is geen audit. Het is een halfuur werk dat je vertelt met wat voor soort bedrijf je te maken hebt.

Het antwoord verandert niets aan wat jij regelt

Hier zit de kern. Ook bij een leverancier die alles keurig meldt, ben jij degene die bepaalt hoeveel schade een probleem kan aanrichten. Dat regel je aan jouw kant, en die maatregelen zijn dezelfde die je toch al zou willen hebben.

Geef elke koppeling alleen de rechten die hij echt nodig heeft. Een tool die facturen inleest hoeft niet bij je personeelsdossiers te kunnen. Zorg dat je weet welke AI-tools en agents er eigenlijk draaien in je bedrijf, want je kunt geen toegang intrekken van iets waarvan je niet weet dat het aanstaat. We schreven eerder hoe je die lijst in een uur maakt.

En zorg dat je weet wat er gebeurt als een dienst wegvalt of dichtgezet moet worden. Niet omdat dat waarschijnlijk is, maar omdat het antwoord "dan ligt ons offerteproces plat" iets is wat je liever nu ontdekt dan op een dinsdagochtend. Ook daar hebben we een aparte post over geschreven.

Wat dit nadrukkelijk niet is

Het is verleidelijk om van dit soort nieuws een groter verhaal te maken dan het is. Dus even scherp: de incidenten bij Anthropic gebeurden binnen veiligheidstests die het bedrijf zelf opzette om te onderzoeken wat modellen kunnen. Er is niets bekend over klanten die schade hebben geleden. Het is geen reden om te stoppen met een tool, en zeker geen reden om te stoppen met AI.

Het is wel een reden om anders te kijken naar de vraag die je stelt bij het inkopen. Niet "is deze tool veilig", want dat antwoord krijg je altijd. Maar "hoe kom ik erachter als hij dat een keer niet is".

Dat is een vraag die je in een gesprek van vijf minuten kunt stellen, en die je meteen laat zien of je met een volwassen leverancier te maken hebt. Bedrijven die hier eerlijk over zijn, hebben er meestal over nagedacht. Bedrijven die het gesprek wegwuiven, meestal niet.

Begin bij je drie belangrijkste tools

Je hoeft dit niet voor alles te doen. Pak de drie AI-tools waar de meeste bedrijfsdata doorheen gaat, meestal iets rond klantcontact, administratie of documenten. Zoek voor elke tool de statuspagina op, stel de vier vragen aan de leverancier en schrijf het antwoord ergens op waar je het over een jaar terugvindt.

Duurt dat een middag? Waarschijnlijk minder. En het levert je iets op wat geen enkel keurmerk je geeft: je weet wie je belt, en hoe snel je iets kunt dichtzetten.

Benieuwd welke vragen bij jouw tools het meest opleveren? We kijken het graag samen met je door.