Ga naar inhoud

Zelf gebouwd

Review van de AI-implementatie die u zelf hebt gebouwd

Iemand heeft binnen het bedrijf een agent opgezet in Claude Code, n8n of Make. Die werkt, totdat dat niet meer zo is. We onderzoeken wat er gebeurt als hij uitvalt en wat u kunt behouden of beter kunt herbouwen.

  • Stappen: 4
  • Leestijd: 5 min
  • Vragen: 4

We raden u niet aan om weg te doen wat u al hebt. Een zelfstandige implementatie is een goed uitgangspunt: uw bedrijf weet al wat het wil en heeft een werkend prototype. De evaluatie beantwoordt vragen die tijdens de bouw niet zijn gesteld, omdat ze toen nog niet relevant waren.

Van de 344 geverifieerde AI-incidenten bij bedrijven tussen 2023 en 2026 veroorzaakte het systeem in 188 gevallen zelf schade, zonder aanvaller. Het patroon keert steeds terug: tijdens de bouw kreeg de agent schrijftoegang tot de database, en tijdens het gebruik heeft niemand die toegang ingetrokken.

In juli 2026 voerde een codeeragent die toegang had tot de productiedatabase na tien minuten een migratie uit in productie. In een ander beschreven geval duurde het negen seconden om de database samen met de back-ups te verwijderen.

Wat er misgaat bij zelfstandige implementaties

De rechten uit de bouwfase blijven beperkt tot die fase.

De agent heeft volledige schrijfrechten voor de database, mailbox of CRM, omdat dat tijdens het testen handig was. Schrijfrechten intrekken en menselijke goedkeuring invoeren is meestal de eerste aanpassing.

Een back-up die niemand ooit heeft teruggezet

Er bestaat een back-up in de instellingen. Niemand heeft gecontroleerd of deze kan worden teruggezet en hoe lang dat duurt.

API-sleutels in code, een spreadsheet of een chat

De sleutel tot het model en het boekhoudsysteem in één bestand, zichtbaar voor iedereen met toegang tot de repository.

Geen logo

Niemand kan zeggen wat het systeem afgelopen dinsdag heeft verstuurd en naar wie. Zonder die informatie kunt u geen klacht of bezwaar afhandelen.

‘Werkt’ betekent ‘het werkte in drie voorbeelden’

Er is geen testset, dus elke wijziging van de prompt of de modelversie wordt live bij klanten getest.

Chatbot zonder vermelding dat het AI is

Vanaf 2 augustus 2026 geldt de verplichting uit artikel 50 van de AI Act. Deze geldt voor een chatbot op de website, een voicebot en een assistent in de inbox als die klanten antwoordt.

Modelaanbieder buiten het verwerkingsregister

Klantgegevens gaan naar een externe API, maar dit wordt nergens vermeld in het verwerkingsregister of de verwerkersovereenkomsten.

Close-up van messing tandwielen, één tand is gebroken, een dunne gouden scheur
Verder, stap 02 Hoe verloopt de beoordeling

Hoe verloopt de beoordeling

  1. Dag 1: gesprek en toegang tot de configuratie Wie heeft dit gebouwd, wat moet het doen, waar staat het en welke sleutels heeft het? Toegang tot de configuratie, niet tot klantgegevens.
  2. Dagen 2–3: beoordeling aan de hand van een lijst met twaalf punten Dezelfde lijst die we hieronder publiceren. Elk punt krijgt een van drie beoordelingen: behouden, aanpassen, herzien.
  3. Dag 4: rapport met de kosten per regel Wat blijft, wat we verbeteren, wat opnieuw wordt opgebouwd en wat elk onderdeel kost. Het rapport is van u, ongeacht wie de aanpassingen uitvoert.
  4. Dagen 5–10: aanpassingen (optioneel) Doorgaans rechten, geheimen, back-ups, logs en een testset. De documentatie wordt vanaf nul opgebouwd, omdat die bij zelfstandige implementaties ontbreekt.
Een groot vergrootglas boven een plan voor een kleine automatisering, getekend met gouden lijnen. Enkele zwakke punten zijn oranje gemarkeerd.
Verder, stap 03 Checklist die u zelf kunt doorlopen

Checklist die u zelf kunt doorlopen

Twaalf vragen. Als u op meer dan drie vragen „ik weet het niet” antwoordt, is een scan nodig. Als u op alle vragen „ja” antwoordt, is dat niet nodig en heeft betalen ervoor geen zin.

  1. Heeft de agent een afzonderlijk account met minimale rechten? Niet het account van de medewerker die het heeft opgezet.
  2. Vereist de vrijgave voor productie goedkeuring door een mens? Een e-mail versturen, een factuur opstellen, iets wijzigen in het CRM of iets verwijderen.
  3. Heeft iemand de afgelopen maand een back-up teruggezet? Hij speelde het af, hij zette het niet aan.
  4. Waar staan de API-sleutels en wie kan ze zien? Als het antwoord begint met ‘in het bestand’, dan is dat het antwoord.
  5. Wordt elke systeemactie in het logboek vastgelegd? Met tijdstip en inhoud, zodat u kunt reageren op een klacht van vorige week.
  6. Wie start de testsuite na elke wijziging? Ten minste 30 gevallen, waaronder complexe.
  7. Wat gebeurt er als de leverancier de modelversie wijzigt? Versies worden om de paar maanden uitgefaseerd. Wie weet daarvan en wie controleert het resultaat na een wijziging?
  8. Weet de gesprekspartner dat die met AI praat? Klant of medewerker. Art. 50 AI Act, vanaf 2 augustus 2026.
  9. Staat de modelaanbieder in het verwerkingsregister? Samen met de verwerkersovereenkomst. Geldt voor elke externe API waar persoonsgegevens naartoe worden gestuurd.
  10. Wie grijpt in als er om zeven uur ’s ochtends iets uitvalt? Voor- en achternaam van de persoon die verantwoordelijk is voor het systeem, niet „de IT-afdeling”.
  11. Hebben de gebruikers van de tool een gedocumenteerde training gevolgd? Art. 4 AI Act: plan, deelnemerslijst, materialen.
  12. Wat kost het systeem per maand en wie kan de factuur inzien? Een piek op de API-factuur is na de derde maand de meest voorkomende verrassing.
Mat met twaalf vakjes, waarvan er vier met een gouden vinkje zijn gemarkeerd, met daarnaast een sleutel en een hangslot
Volgende, stap 04 Wat meestal blijft en wat opnieuw wordt opgebouwd

Wat meestal blijft en wat opnieuw wordt opgebouwd

Blijft staanWe verbeterenVan de grond af opgebouwd
Proceslogica en toolkeuzeRechten en afzonderlijke accountsBeleid voor AI-gebruik
Prompts en configuratie, na testsRuimte voor sleutels en geheimenRegister van AI-systemen binnen het bedrijf
Integraties die werkenBack-ups met hersteltestTestset
De persoon die dit heeft gebouwd als proceseigenaarActielogboekOpenbaarmakingsteksten op grond van art. 50
Drie kisten op een lopende band: één verzegeld met een gouden band, één open met gereedschap, één uit elkaar gehaald
Dit zijn alle stappen Veelgestelde vragen en de volgende stap

Veelgestelde vragen

Veelgestelde vragen

We hebben een agent gebouwd in Claude Code en die werkt. Waarom hebben we dan een review nodig?

Om te controleren wat er gebeurt als het systeem uitvalt of iets doet wat niemand wilde. De review beoordeelt toegangsrechten, back-ups, sleutels, logs, de testset en documentatie, niet het prototype. Als u op twaalf vragen op de lijst „ja” antwoordt, is een review niet nodig.

Betekent de analyse dat alles opnieuw moet worden opgebouwd?

Nee. De proceslogica, prompts en werkende integraties blijven meestal behouden. De rechten, geheimen, back-ups en logs moeten worden aangepast. De documentatie wordt vanaf nul opgesteld, omdat die bij zelfstandige implementaties meestal ontbreekt.

Hoe lang duurt een audit en wat kost die?

Vier werkdagen tot het rapport: een gesprek, twee dagen voor de controle aan de hand van een lijst met twaalf punten en één dag voor het rapport met de kosten van elke aanpassing. De prijs volgt na het eerste gesprek en hangt af van het aantal systemen. Het rapport is van u, ongeacht wie de aanpassingen uitvoert.

Moeten we u toegang geven tot klantgegevens?

Nee. Voor de beoordeling is toegang nodig tot de configuratie, rechten en logboeken, niet tot de gegevensinhoud. Waar we de werking aan de hand van voorbeelden moeten controleren, werken we met een kopie of met geanonimiseerde gegevens.

Andere trajecten

Volgende stappen

Vrijblijvend gesprek

Review binnen vier werkdagen

Een gesprek, twee dagen volgens een lijst met twaalf punten en een rapport met de kosten van elke aanpassing. Laten we beginnen met een gesprek van dertig minuten waarin u vertelt wat er vastloopt en waar.