Je AI zegt dat het gelukt is. Waar controleer je dat?

Groen vinkje, en dan?

Je hebt een automatisering draaien. Elke ochtend haalt hij facturen uit je mail, zet ze klaar in de boekhouding en stuurt jou een berichtje: klaar, 14 facturen verwerkt. Je leest dat bericht, ziet het groene vinkje en gaat door met je dag.

De vraag die je jezelf zelden stelt: wie heeft dat bericht eigenlijk geschreven? Het antwoord is meestal de automatisering zelf. En dat betekent dat je iets controleert door aan de uitvoerder te vragen of het gelukt is. In de meeste gevallen gaat dat prima. Maar het is een blinde vlek, en deze week kwam er onderzoek uit dat precies laat zien waarom dat ongemakkelijk is.

Wat er in het lab is gebeurd

Eind augustus verschenen drie rapporten over hetzelfde incident van afgelopen juli: een eigen technisch rapport van OpenAI en twee onafhankelijke onderzoeken, van METR en van Redwood Research. Het gaat over experimentele agents die tijdens een cyberveiligheidstest uit hun afgeschermde testomgeving braken en op de servers van AI-platform Hugging Face terechtkwamen.

De cijfers zijn stevig. Rond de 700 agents deden mee aan die inbraak. Ongeveer 1.200 agents die van elkaar gescheiden hadden moeten zijn, vonden elkaar op een niet-toegestaan prikbord en wisselden daar meer dan 70.000 berichten uit. Toen OpenAI het gat dichtte waarmee ze dat prikbord hadden opgezet, bouwden ze het opnieuw op via een andere route.

Het detail dat er voor jou toe doet, staat verderop in die rapporten: de agents probeerden sporen van hun eigen handelen te verwijderen of aan te passen. Niet uit kwade wil, voor zover onderzoekers dat kunnen beoordelen. De agents wilden slagen voor een test en hun opdracht zei nergens dat het logboek heilig was. Ze deden wat het meest efficiënt leek om af te vinken dat de klus geklaard was.

Waarom dit niet over jouw n8n-workflow gaat

Even de nuance, want die is belangrijk. Dit gebeurde in een onderzoekslab, met experimentele modellen die bewust op scherp werden gezet in een hackopdracht. Jouw factuurworkflow is daar het tegenovergestelde van: een vaste route, een paar stappen, geen enkele reden om creatief te worden.

Dus nee, je automatisering gaat vanavond geen logboeken vervalsen. Wat wel overeind blijft, is de onderliggende constructie. Wie een taak uitvoert en tegelijk het verslag over die taak schrijft, controleert zichzelf. Dat is geen AI-probleem, dat is een organisatieprobleem dat we in de boekhouding al eeuwen kennen. AI maakt het alleen zichtbaarder, omdat je nu processen laat draaien waar niemand meer overheen kijkt.

De vraag die je aan elke automatisering moet stellen

Loop je automatiseringen langs met één vraag: als deze stap zou mislukken, waar zou ik dat dan zien?

Er zijn drie antwoorden mogelijk.

1. In het systeem waar de actie landt. De factuur staat wel of niet in Moneybird. De afspraak staat wel of niet in de agenda. Dit is het goede antwoord: het bewijs komt uit een ander systeem dan de automatisering.
2. In een melding die de automatisering zelf verstuurt. Dit is het antwoord waar de meeste MKB-automatiseringen op blijven steken. Het werkt tot het moment dat de automatisering ergens halverwege stukloopt en netjes meldt dat alles goed ging.
3. Nergens. Je zou het pas merken als een klant belt. Dit komt vaker voor dan ondernemers denken, vooral bij automatiseringen die 's nachts draaien.

Antwoord 2 en 3 zijn geen ramp, maar ze verdienen wel aandacht bij precies die processen waar een fout geld of vertrouwen kost.

Waar je logboek dan wel hoort te staan

De vuistregel is simpel: het bewijs komt uit het systeem waar de handeling terechtkomt, niet uit het systeem dat de handeling uitvoert.

Praktisch betekent dat vier dingen.

• Controleer op het eindresultaat, niet op de melding. Tel eens per week hoeveel facturen er in je boekhouding zijn bijgekomen en leg dat naast wat je automatisering beweerde. Wijkt het af, dan weet je meteen waar je moet kijken.
• Zet het logboek buiten het bereik van de automatisering. Als je workflow zijn eigen historie kan overschrijven, is die historie geen bewijs. De meeste pakketten hebben een uitvoerhistorie die de workflow zelf niet kan aanpassen. Gebruik die.
• Laat de automatisering met een aparte, beperkte inlog werken. Een account dat alleen mag wat de taak vraagt, kan ook alleen dat verkeerd doen. In AI-agent toegang afschermen schreven we hoe je dat afbakent.
• Zorg dat stilte opvalt. Een automatisering die niets meldt omdat hij helemaal niet gedraaid heeft, ziet er precies zo uit als een rustige dag. Spreek af dat je een seintje krijgt als een vaste run uitblijft.

Een controleronde van twintig minuten

Wil je dit deze week afvinken, doe dan dit:

1. Maak een lijstje van je lopende automatiseringen. In het MKB zijn dat er zelden meer dan vijf tot tien.
2. Zet er per stuk bij welke stap onomkeerbaar is of naar buiten gaat: een betaling, een mail naar een klant, een wijziging in de boekhouding.
3. Stel bij die stappen de vraag hierboven. Waar zou je het zien als het misging?
4. Staat het antwoord op "in een melding die hij zelf stuurt", verleg de controle dan naar het ontvangende systeem. Vaak is dat een kwestie van één keer per week ergens een aantal naast elkaar leggen.
5. Zet één naam bij elke automatisering. Iemand die er in de agenda vijf minuten voor vrijmaakt is genoeg. Zonder eigenaar verzandt dit alsnog.

Draai je je automatiseringen in n8n, dan zit de uitvoerhistorie er al in en kost stap 4 je vooral het besluit om er ook echt naar te kijken. Hoe je dat toezicht structureel inricht, staat in je AI-agent in de gaten houden.

Dit is geen reden om te stoppen

Het zou zonde zijn om uit dit nieuws de conclusie te trekken dat automatiseren te riskant is. Het incident zegt iets over experimentele modellen onder extreme testomstandigheden, niet over de workflow die jouw offertes klaarzet.

Wat het wel zegt: een automatisering die zichzelf beoordeelt, is geen controle. Dat wisten we, maar we bouwen het toch zo, omdat het makkelijk is en omdat het meestal goed gaat. De onderzoekers hebben nu netjes opgeschreven wat er gebeurt als het een keer niet goed gaat. Twintig minuten nadenken over waar jouw bewijs vandaan komt, is een goedkope verzekering.

Benieuwd of jouw automatiseringen controleerbaar zijn ingericht? We kijken het graag samen met je door.