We raden u niet aan om weg te doen wat u al hebt. Een zelfstandige implementatie is een goed uitgangspunt: uw bedrijf weet al wat het wil en heeft een werkend prototype. De evaluatie beantwoordt vragen die tijdens de bouw niet zijn gesteld, omdat ze toen nog niet relevant waren.
Van de 344 geverifieerde AI-incidenten bij bedrijven tussen 2023 en 2026 veroorzaakte het systeem in 188 gevallen zelf schade, zonder aanvaller. Het patroon keert steeds terug: tijdens de bouw kreeg de agent schrijftoegang tot de database, en tijdens het gebruik heeft niemand die toegang ingetrokken.
In juli 2026 voerde een codeeragent die toegang had tot de productiedatabase na tien minuten een migratie uit in productie. In een ander beschreven geval duurde het negen seconden om de database samen met de back-ups te verwijderen.
Wat er misgaat bij zelfstandige implementaties
De rechten uit de bouwfase blijven beperkt tot die fase.
De agent heeft volledige schrijfrechten voor de database, mailbox of CRM, omdat dat tijdens het testen handig was. Schrijfrechten intrekken en menselijke goedkeuring invoeren is meestal de eerste aanpassing.
Een back-up die niemand ooit heeft teruggezet
Er bestaat een back-up in de instellingen. Niemand heeft gecontroleerd of deze kan worden teruggezet en hoe lang dat duurt.
API-sleutels in code, een spreadsheet of een chat
De sleutel tot het model en het boekhoudsysteem in één bestand, zichtbaar voor iedereen met toegang tot de repository.
Geen logo
Niemand kan zeggen wat het systeem afgelopen dinsdag heeft verstuurd en naar wie. Zonder die informatie kunt u geen klacht of bezwaar afhandelen.
‘Werkt’ betekent ‘het werkte in drie voorbeelden’
Er is geen testset, dus elke wijziging van de prompt of de modelversie wordt live bij klanten getest.
Chatbot zonder vermelding dat het AI is
Vanaf 2 augustus 2026 geldt de verplichting uit artikel 50 van de AI Act. Deze geldt voor een chatbot op de website, een voicebot en een assistent in de inbox als die klanten antwoordt.
Modelaanbieder buiten het verwerkingsregister
Klantgegevens gaan naar een externe API, maar dit wordt nergens vermeld in het verwerkingsregister of de verwerkersovereenkomsten.
Hoe verloopt de beoordeling
- Dag 1: gesprek en toegang tot de configuratie Wie heeft dit gebouwd, wat moet het doen, waar staat het en welke sleutels heeft het? Toegang tot de configuratie, niet tot klantgegevens.
- Dagen 2–3: beoordeling aan de hand van een lijst met twaalf punten Dezelfde lijst die we hieronder publiceren. Elk punt krijgt een van drie beoordelingen: behouden, aanpassen, herzien.
- Dag 4: rapport met de kosten per regel Wat blijft, wat we verbeteren, wat opnieuw wordt opgebouwd en wat elk onderdeel kost. Het rapport is van u, ongeacht wie de aanpassingen uitvoert.
- Dagen 5–10: aanpassingen (optioneel) Doorgaans rechten, geheimen, back-ups, logs en een testset. De documentatie wordt vanaf nul opgebouwd, omdat die bij zelfstandige implementaties ontbreekt.
Checklist die u zelf kunt doorlopen
Twaalf vragen. Als u op meer dan drie vragen „ik weet het niet” antwoordt, is een scan nodig. Als u op alle vragen „ja” antwoordt, is dat niet nodig en heeft betalen ervoor geen zin.
- Heeft de agent een afzonderlijk account met minimale rechten? Niet het account van de medewerker die het heeft opgezet.
- Vereist de vrijgave voor productie goedkeuring door een mens? Een e-mail versturen, een factuur opstellen, iets wijzigen in het CRM of iets verwijderen.
- Heeft iemand de afgelopen maand een back-up teruggezet? Hij speelde het af, hij zette het niet aan.
- Waar staan de API-sleutels en wie kan ze zien? Als het antwoord begint met ‘in het bestand’, dan is dat het antwoord.
- Wordt elke systeemactie in het logboek vastgelegd? Met tijdstip en inhoud, zodat u kunt reageren op een klacht van vorige week.
- Wie start de testsuite na elke wijziging? Ten minste 30 gevallen, waaronder complexe.
- Wat gebeurt er als de leverancier de modelversie wijzigt? Versies worden om de paar maanden uitgefaseerd. Wie weet daarvan en wie controleert het resultaat na een wijziging?
- Weet de gesprekspartner dat die met AI praat? Klant of medewerker. Art. 50 AI Act, vanaf 2 augustus 2026.
- Staat de modelaanbieder in het verwerkingsregister? Samen met de verwerkersovereenkomst. Geldt voor elke externe API waar persoonsgegevens naartoe worden gestuurd.
- Wie grijpt in als er om zeven uur ’s ochtends iets uitvalt? Voor- en achternaam van de persoon die verantwoordelijk is voor het systeem, niet „de IT-afdeling”.
- Hebben de gebruikers van de tool een gedocumenteerde training gevolgd? Art. 4 AI Act: plan, deelnemerslijst, materialen.
- Wat kost het systeem per maand en wie kan de factuur inzien? Een piek op de API-factuur is na de derde maand de meest voorkomende verrassing.
Wat meestal blijft en wat opnieuw wordt opgebouwd
| Blijft staan | We verbeteren | Van de grond af opgebouwd |
|---|---|---|
| Proceslogica en toolkeuze | Rechten en afzonderlijke accounts | Beleid voor AI-gebruik |
| Prompts en configuratie, na tests | Ruimte voor sleutels en geheimen | Register van AI-systemen binnen het bedrijf |
| Integraties die werken | Back-ups met hersteltest | Testset |
| De persoon die dit heeft gebouwd als proceseigenaar | Actielogboek | Openbaarmakingsteksten op grond van art. 50 |
Veelgestelde vragen
Veelgestelde vragen
We hebben een agent gebouwd in Claude Code en die werkt. Waarom hebben we dan een review nodig?
Om te controleren wat er gebeurt als het systeem uitvalt of iets doet wat niemand wilde. De review beoordeelt toegangsrechten, back-ups, sleutels, logs, de testset en documentatie, niet het prototype. Als u op twaalf vragen op de lijst „ja” antwoordt, is een review niet nodig.
Betekent de analyse dat alles opnieuw moet worden opgebouwd?
Nee. De proceslogica, prompts en werkende integraties blijven meestal behouden. De rechten, geheimen, back-ups en logs moeten worden aangepast. De documentatie wordt vanaf nul opgesteld, omdat die bij zelfstandige implementaties meestal ontbreekt.
Hoe lang duurt een audit en wat kost die?
Vier werkdagen tot het rapport: een gesprek, twee dagen voor de controle aan de hand van een lijst met twaalf punten en één dag voor het rapport met de kosten van elke aanpassing. De prijs volgt na het eerste gesprek en hangt af van het aantal systemen. Het rapport is van u, ongeacht wie de aanpassingen uitvoert.
Moeten we u toegang geven tot klantgegevens?
Nee. Voor de beoordeling is toegang nodig tot de configuratie, rechten en logboeken, niet tot de gegevensinhoud. Waar we de werking aan de hand van voorbeelden moeten controleren, werken we met een kopie of met geanonimiseerde gegevens.
Andere trajecten
Volgende stappen
-
Aan de slag Waar te beginnen met AI-implementatie in het bedrijf Welk proces pakt u als eerste aan, hoe meet u het en waaraan ziet u dat het rendement heeft opgeleverd. -
Wetgeving en toezicht AI Act en de Poolse wet: verplichtingen voor bedrijven Art. 4, art. 50, de Poolse wet vanaf 11 augustus, boetes vanaf 28 oktober. Wat we controleren en welke documentatie we achterlaten. -
Subsidies Subsidies voor AI-implementatie voor bedrijven in 2026 PARP, KPO, FENG: welke programma's, welke drempels en wat we voorbereiden voor de aanvraag om deze direct in te dienen. - Generator Implementatieplan in negen vragen Sector, omvang, proces, data, systemen. Als resultaat ontvangt u aanbevelingen, fasen, kostenindicaties, verplichtingen en subsidies. Elk item bevat een bronvermelding.
Vrijblijvend gesprek
Review binnen vier werkdagen
Een gesprek, twee dagen volgens een lijst met twaalf punten en een rapport met de kosten van elke aanpassing. Laten we beginnen met een gesprek van dertig minuten waarin u vertelt wat er vastloopt en waar.