Laat je AI-koppelingen eens testen door iemand van buiten

De zwakke plek zit tussen je systemen

Je AI-assistent leest je mail, zet een offerte klaar in je boekhouding en zet een afspraak in je agenda. Elk van die systemen is op zich goed beveiligd. Toch zit daar het risico: in de verbindingen ertussen. Elke koppeling is een extra deur en niemand loopt al die deuren regelmatig langs.

Een van de grootste AI-bedrijven ter wereld trekt daar nu zelf de conclusie uit. Dat is een goed moment om ook naar je eigen koppelingen te kijken.

Wat OpenAI deze week deed

Op 6 november maakte OpenAI bekend dat het samenwerkt met het beveiligingsbedrijf Hacktron. Hacktron gaat gericht zoeken naar zwakke plekken in de systemen van OpenAI, met de nadruk op de plekken waar OpenAI-diensten verbonden zijn met diensten van andere partijen. OpenAI geeft het bedrijf daarvoor ook toegang tot zijn nieuwste modellen voor beveiligingstests.

Die samenwerking kwam er niet zomaar. In september liet een klein team van Hacktron zien dat het met hulp van een AI-model binnen een paar dagen via een lek in een forum dat OpenAI gebruikte bij interne accounts kon komen. Dat forum was software van een andere partij. OpenAI betaalde een beloning voor de melding en haalt de onderzoekers nu binnen als vaste testers.

De les is breder dan OpenAI. Het lek zat niet in het AI-model en ook niet in de kern van het product. Het zat in een stuk software aan de rand dat er "gewoon bij hoorde". Zo ziet het er in de meeste bedrijven uit.

Waarom dit ook voor een bedrijf van tien man telt

Je denkt misschien dat zo'n test iets is voor bedrijven met een eigen beveiligingsafdeling. Maar het aantal koppelingen groeit in kleine bedrijven net zo hard. Een gemiddeld MKB-bedrijf met een paar AI-automatiseringen heeft al snel:

• een AI-assistent met toegang tot de gedeelde mailbox;
• een automatisering die gegevens uit het webformulier naar het CRM zet;
• een koppeling tussen boekhouding en bank;
• een paar losse apps die "even" toegang kregen tot je agenda of documenten.

Elk van die verbindingen heeft een sleutel of een toestemming. Een deel is ooit door een collega of een externe partij ingericht. En niemand heeft sindsdien gekeken of het nog klopt. Met AI erbij gaat het sneller: een aanvaller met een AI-programmeerhulp kan in een middag doen waar vroeger een week voor nodig was. Dat geldt ook voor de verdediging. Je kunt nu sneller laten zoeken dan ooit.

Eerst zelf: drie controles van een uur

Voordat je iemand inhuurt, kun je zelf veel vinden. Plan er een uur voor.

1. Maak een lijst van alle koppelingen. Kijk in je Microsoft 365- of Google-beheerscherm welke apps toegang hebben en in je automatiseringstool welke verbindingen actief zijn. Hoe je dat in Microsoft 365 doet, lees je in welke apps hebben toegang tot je Microsoft 365.
2. Kijk per koppeling naar de rechten. Mag de AI alleen lezen of ook versturen, wijzigen en verwijderen? Klopt dat nog met wat de taak vraagt? Een koppeling die alleen een agenda hoeft te lezen, heeft geen schrijfrechten op je hele mailbox nodig.
3. Test of je een koppeling kunt intrekken. Kies er een uit, trek de toegang in en kijk of het werkt. Weet je niet waar de knop zit, dan heb je je eerste actiepunt gevonden.

Kom je sleutels tegen die in een tekstbestand of in de instructies van een automatisering staan, zet ze dan op een afgeschermde plek. Hoe je dat aanpakt, beschreven we in AI laten meewerken zonder je wachtwoorden te lekken.

Wanneer je iemand van buiten erbij haalt

Zelf controleren vindt de rommel. Een buitenstaander vindt wat je zelf over het hoofd ziet, omdat hij niet weet hoe het "hoort" te werken. Een paar momenten waarop een test zijn geld waard is:

• je AI-agent kan namens je bedrijf iets versturen, betalen of verwijderen;
• je koppelt klantgegevens aan een AI-tool, bijvoorbeeld in een klantenservice-chat;
• je hebt een eigen webapplicatie of klantportaal met AI erin;
• een klant of verzekeraar vraagt naar je beveiliging.

Zo'n test heet een penetratietest of kortweg pentest. Een goede tester spreekt vooraf met je af wat hij wel en niet mag aanraken. Dat heet de scope. Voor een klein bedrijf hoeft dat geen groot project te zijn. Een gerichte test van één klantportaal of van de koppelingen rond één AI-agent is vaak genoeg om de belangrijkste gaten te vinden.

Vijf vragen voor een tester

Vraag bij een offerte voor een test in elk geval naar deze punten:

1. Test je ook de koppelingen tussen onze systemen of alleen de systemen zelf?
2. Neem je AI-functies mee, zoals een chatbot die met trucjes in de vraag iets kan doen wat niet de bedoeling is?
3. Wat krijgen we na afloop: een lijst met gevonden gaten, gesorteerd op ernst, met per punt een oplossing?
4. Hoe ga je om met gegevens die je tijdens de test tegenkomt?
5. Mogen we na het dichten van de gaten een korte hertest?

Komt er bij die test een lek met persoonsgegevens boven water, dan heb je ook met de AVG te maken. Wat er dan van je verwacht wordt, lees je in AVG en AI: wat mag je wel en niet met klantdata.

Maak het makkelijk om een lek bij je te melden

OpenAI kwam bij Hacktron uit omdat die onderzoekers een lek netjes meldden. Dat kan bij jou ook gebeuren. Iemand ziet iets vreemds aan je website of klantportaal en wil het laten weten. Weet hij niet bij wie, dan gebeurt er niets.

Zet daarom een vast meldadres op je website, bijvoorbeeld security@ gevolgd door je domeinnaam en noem het in een kort tekstje bij je contactgegevens. Er bestaat ook een standaardbestand met de naam security.txt dat je op je website zet, zodat onderzoekers meteen zien waar ze terechtkunnen. Spreek intern af wie die mail leest en binnen welke tijd er antwoord komt. Het kost je een half uur en het kan je een datalek schelen.

De kern: koppelingen maken AI pas echt nuttig voor je bedrijf. Daarom horen ze op je onderhoudslijst, net als je software-updates en je back-ups.

Benieuwd hoe de koppelingen in jouw bedrijf ervoor staan? We kijken het graag samen met je door.