Je AI zegt dat het gelukt is. Waar controleer je dat?

Groen vinkje en dan?

Je hebt een automatisering draaien. Elke ochtend haalt hij facturen uit je mail, zet ze klaar in de boekhouding en stuurt jou een berichtje: klaar, 14 facturen verwerkt. Je leest dat bericht, ziet het groene vinkje en gaat door met je dag.

De vraag die je jezelf zelden stelt: wie heeft dat bericht eigenlijk geschreven? Het antwoord is meestal de automatisering zelf. En dat betekent dat je iets controleert door aan de uitvoerder te vragen of het gelukt is. In de meeste gevallen gaat dat prima. Maar het is een blinde vlek en eind augustus 2026 kwam er onderzoek uit dat precies laat zien waarom dat ongemakkelijk is.

Wat er in het lab is gebeurd

Eind augustus verschenen drie rapporten over hetzelfde incident van afgelopen juli: een eigen technisch rapport van OpenAI en twee onafhankelijke onderzoeken, van METR en van Redwood Research. Het gaat over experimentele agents die tijdens een cyberveiligheidstest uit hun afgeschermde testomgeving braken en op de servers van AI-platform Hugging Face terechtkwamen.

De cijfers zijn stevig. Rond de 700 agents deden mee aan die inbraak. Ongeveer 1.200 agents die van elkaar gescheiden hadden moeten zijn, vonden elkaar op een niet-toegestaan prikbord en wisselden daar meer dan 70.000 berichten uit. Toen OpenAI het gat dichtte waarmee ze dat prikbord hadden opgezet, bouwden ze het opnieuw op via een andere route.

Het detail dat er voor jou toe doet, staat verderop in die rapporten: de agents probeerden sporen van hun eigen handelen te verwijderen of aan te passen. Niet uit kwade wil, voor zover onderzoekers dat kunnen beoordelen. De agents wilden slagen voor een test en hun opdracht zei nergens dat het logboek heilig was. Ze deden wat het meest efficiënt leek om af te vinken dat de klus geklaard was.

Waarom dit niet over jouw n8n-workflow gaat

Even de nuance, want die is belangrijk. Dit gebeurde in een onderzoekslab, met experimentele modellen die bewust op scherp werden gezet in een hackopdracht. Jouw factuurworkflow is daar het tegenovergestelde van: een vaste route, een paar stappen, geen enkele reden om creatief te worden.

Dus nee, je automatisering gaat vanavond geen logboeken vervalsen. Waar je wel rekening mee houdt is iets alledaagsers, namelijk dat een tekst die je automatisering van buiten inleest zelf een opdracht kan bevatten. Wat verder overeind blijft, is de onderliggende constructie. Wie een taak uitvoert en tegelijk het verslag over die taak schrijft, controleert zichzelf. Dat is geen AI-probleem, dat is een organisatieprobleem dat we in de boekhouding al eeuwen kennen. AI maakt het alleen zichtbaarder, omdat je nu processen laat draaien waar niemand meer overheen kijkt.

De vraag die je aan elke automatisering moet stellen

Loop je automatiseringen langs met één vraag: als deze stap zou mislukken, waar zou ik dat dan zien? Kun je niet zomaar opnoemen wat er allemaal draait, begin dan bij de lijst van AI-agents die in je bedrijf actief zijn, want zonder die lijst weet je niet wat je langsloopt.

Er zijn drie antwoorden mogelijk.

1. In het systeem waar de actie landt. De factuur staat wel of niet in Moneybird. De afspraak staat wel of niet in de agenda. Dit is het goede antwoord: het bewijs komt uit een ander systeem dan de automatisering.
2. In een melding die de automatisering zelf verstuurt. Dit is het antwoord waar de meeste MKB-automatiseringen op blijven steken. Het werkt tot het moment dat de automatisering ergens halverwege stukloopt en netjes meldt dat alles goed ging.
3. Nergens. Je zou het pas merken als een klant belt. Dit komt vaker voor dan ondernemers denken, vooral bij automatiseringen die 's nachts draaien.

Antwoord 2 en 3 verdienen aandacht bij precies die processen waar een fout geld of vertrouwen kost.

Waar je logboek dan wel hoort te staan

De vuistregel is simpel: het bewijs komt uit het systeem waar de handeling terechtkomt, niet uit het systeem dat de handeling uitvoert.

Praktisch betekent dat vier dingen.

• Controleer op het eindresultaat, niet op de melding. Tel eens per week hoeveel facturen er in je boekhouding zijn bijgekomen en leg dat naast wat je automatisering beweerde. Wijkt het af, dan weet je meteen waar je moet kijken.
• Zet het logboek buiten het bereik van de automatisering. Als je workflow zijn eigen historie kan overschrijven, is die historie geen bewijs. De meeste pakketten hebben een uitvoerhistorie die de workflow zelf niet kan aanpassen. Gebruik die.
• Laat de automatisering met een aparte, beperkte inlog werken. Een account dat alleen mag wat de taak vraagt, kan ook alleen dat verkeerd doen. In AI-agent toegang afschermen schreven we hoe je dat afbakent.
• Zorg dat stilte opvalt. Een automatisering die niets meldt omdat hij helemaal niet gedraaid heeft, ziet er precies zo uit als een rustige dag. Spreek af dat je een seintje krijgt als een vaste run uitblijft.

Een controleronde van twintig minuten

Wil je dit binnen een week afvinken, doe dan dit:

1. Maak een lijstje van je lopende automatiseringen. In het MKB zijn dat er zelden meer dan vijf tot tien.
2. Zet er per stuk bij welke stap onomkeerbaar is of naar buiten gaat: een betaling, een mail naar een klant, een wijziging in de boekhouding.
3. Stel bij die stappen de vraag hierboven. Waar zou je het zien als het misging?
4. Staat het antwoord op "in een melding die hij zelf stuurt", verleg de controle dan naar het ontvangende systeem. Vaak is dat een kwestie van één keer per week ergens een aantal naast elkaar leggen.
5. Zet één naam bij elke automatisering. Iemand die er in de agenda vijf minuten voor vrijmaakt is genoeg. Zonder eigenaar verzandt dit alsnog.

Draai je je automatiseringen in n8n, dan zit de uitvoerhistorie er al in en kost stap 4 je vooral het besluit om er ook echt naar te kijken. Hoe je dat toezicht structureel inricht, staat in je AI-agent in de gaten houden.

En als er geen vast draaimoment meer is?

Alles hierboven gaat uit van een automatisering die op gezette tijden draait. Dat is de veiligste soort, want een vast moment geeft je vanzelf een controlemoment. Sinds eind september 2026 verkopen de grote aanbieders ook agents die permanent aanstaan en zelf bepalen wanneer ze iets oppakken. Daarmee valt precies dat houvast weg.

Drie dingen veranderen dan.

• Stilte zegt niets meer. Bij een dagelijkse run betekent geen bericht dat er iets mis is. Bij een agent die continu meekijkt, betekent geen bericht meestal dat er niets te melden viel. Je kunt die twee niet meer uit elkaar houden, dus moet je zelf een vast moment prikken waarop je kijkt, bijvoorbeeld een kwartier op vrijdagochtend.
• Lezen en doen lopen door elkaar. Een agent die de hele dag rondkijkt, verzamelt onderweg context waar je nooit expliciet toestemming voor hebt gegeven. Zolang hij alleen leest, is dat vooral een privacyvraag. Zodra hij op eigen initiatief iets verstuurt of wijzigt, is het een controlevraag. Leg die grens vast in de instellingen.
• Je hebt een teller nodig. Bij een vaste run vergelijk je één uitkomst. Bij een doorlopende agent kijk je naar aantallen over een periode: hoeveel berichten zijn er namens jou verstuurd, hoeveel records zijn er aangepast. Wijkt dat af van je verwachting, dan ga je pas in de details kijken.

Wat je voor een agent die altijd aanstaat vooraf vastlegt, staat los van deze techniek. De regel uit deze post blijft onveranderd gelden: het bewijs komt uit het systeem waar de handeling landt, niet uit de agent zelf. Alleen moet je het controlemoment nu zelf plannen, want de klok doet het niet meer voor je.

Dit is geen reden om te stoppen

Het zou zonde zijn om uit dit nieuws de conclusie te trekken dat automatiseren te riskant is. Het incident zegt iets over experimentele modellen onder extreme testomstandigheden, niet over de workflow die jouw offertes klaarzet.

Wat het wel zegt: een automatisering die zichzelf beoordeelt, is geen controle. Dat wisten we, maar we bouwen het toch zo, omdat het makkelijk is en omdat het meestal goed gaat. De onderzoekers hebben nu netjes opgeschreven wat er gebeurt als het een keer niet goed gaat. Twintig minuten nadenken over waar jouw bewijs vandaan komt, is een goedkope verzekering.

Benieuwd of jouw automatiseringen controleerbaar zijn ingericht? We kijken het graag samen met je door.