Nenabádame vás, aby ste zahodili to, čo už máte. Samostatná implementácia je dobrým východiskovým bodom: firma už vie, čo chce, a má funkčný prototyp. Audit odpovedá na otázky, ktoré si vo fáze vývoja nikto nepoložil, pretože vtedy neboli potrebné.
Z 344 overených incidentov AI vo firmách z rokov 2023–2026 spôsobil v 188 škodu samotný systém, bez útočníka. Vzorec sa opakuje: agent získal právo zápisu do databázy počas vývoja a nikto mu ho neodobral počas prevádzky.
V júli 2026 vykonal kódovací agent pripojený k produkčnej databáze po desiatich minútach migráciu v produkčnom prostredí. V inom opísanom prípade trvalo vymazanie databázy aj so záložnými kópiami deväť sekúnd.
Čo sa pokazí pri vlastných implementáciách
Oprávnenia z fázy výstavby zostávajú aj vo fáze prevádzky
Agent má plný prístup na zápis do databázy, e-mailovej schránky alebo CRM, pretože to bolo pri testovaní pohodlné. Odobratie možnosti zápisu a zavedenie schvaľovania človekom býva zvyčajne prvou úpravou.
Záloha, ktorú nikto neobnovil
Záloha existuje v nastaveniach. Nikto neoveril, či sa z nej dá obnoviť a ako dlho to trvá.
Kľúče API v kóde, v tabuľke alebo v chate
Kľúč k modelu aj účtovnému systému v jednom súbore, ktorý vidí každý s prístupom do repozitára.
Chýba logo
Nikto nevie povedať, čo systém poslal minulý utorok a komu. Bez toho nemožno vybaviť reklamáciu ani sťažnosť.
„Funguje“ znamená „fungovalo na troch príkladoch“
Chýba testovacia sada, takže každá zmena promptu alebo verzie modelu sa overuje v reálnej prevádzke na zákazníkoch.
Chatbot bez informácie, že ide o AI
Od 2. augusta 2026 platí povinnosť podľa článku 50 AI Act. Týka sa chatbota na webovej stránke, hlasového bota aj asistenta v e-mailovej schránke, ak odpovedá zákazníkovi.
Poskytovateľ modelu mimo registra spracúvania
Údaje klientov sa odosielajú do externého API, no v zázname o činnostiach ani v zmluvách o spracúvaní osobných údajov o tom nie je ani zmienka.
Ako prebieha kontrola
- Deň 1: rozhovor a prístup ku konfigurácii Kto to vytvoril, čo má robiť, kde sa nachádza a aké má kľúče. Prístup ku konfigurácii, nie k údajom klientov.
- Dni 2–3: kontrola podľa zoznamu dvanástich bodov Ten istý zoznam, ktorý uvádzame nižšie. Každý bod dostane jedno z troch hodnotení: ponechať, upraviť, prepracovať.
- Deň 4: report s nákladmi na každú položku Čo zostáva, čo vylepšujeme, čo treba prerobiť a koľko stojí každá položka. Správa je vaša bez ohľadu na to, kto vykoná úpravy.
- Dni 5–10: úpravy (voliteľné) Štandardné oprávnenia, tajomstvá, zálohy, logy a testovacia sada. Dokumentácia vzniká od nuly, pretože pri samostatných implementáciách chýba.
Kontrolný zoznam, ktorým môžete prejsť sami
Dvanásť otázok. Ak na viac ako tri odpoviete „neviem“, audit je potrebný. Ak na všetky odpoviete „áno“, potrebný nie je a nemá zmysel zaň platiť.
- Má agent samostatný účet s minimálnymi oprávneniami? Nie účet zamestnanca, ktorý ho vytvoril.
- Vyžaduje sa pri zápise do produkcie schválenie človekom? Odoslanie e-mailu, faktúra, zmena v CRM, odstránenie čohokoľvek.
- Obnovil niekto zálohu za posledný mesiac? Obnovil, nie „zapol“.
- Kde sú uložené API kľúče a kto ich vidí? Ak sa odpoveď začína slovami „v súbore“, je to odpoveď.
- Zaznamenáva sa každá akcia systému do logu? S časom a obsahom, aby bolo možné odpovedať na reklamáciu z minulého týždňa.
- Kto spúšťa testovaciu súpravu po každej zmene? Najmenej tridsať prípadov vrátane náročných.
- Čo sa stane, keď dodávateľ zmení verziu modelu? Verzie sa rušia každých pár mesiacov. Kto o tom vie a kto kontroluje výsledok po zmene?
- Vie účastník rozhovoru, že sa rozpráva s AI? Klient alebo zamestnanec. Čl. 50 AI Act, od 2. augusta 2026.
- Je dodávateľ modelu v registri činností? Spolu so zmluvou o spracúvaní. Týka sa každého externého API, do ktorého sa odosielajú osobné údaje.
- Kto zareaguje, keď sa o siedmej ráno niečo pokazí? Meno a priezvisko osoby zodpovednej za systém, nie „oddelenie IT“.
- Absolvovali používatelia nástroja zdokumentované školenie? Čl. 4 AI Act: plán, zoznam účastníkov, materiály.
- Koľko systém stojí mesačne a kto vidí účet? Výkyvy na faktúre za API sú najčastejším prekvapením po treťom mesiaci.
Čo zvyčajne zostáva a čo sa prestavuje
| Zostáva | Zlepšujeme | Vzniká od základov |
|---|---|---|
| Logika procesu a výber nástroja | Oprávnenia a samostatné účty | Zásady používania AI |
| Prompty a konfigurácia po testovaní | Miesto na kľúče a tajomstvá | Register systémov AI vo firme |
| Integrácie, ktoré fungujú | Zálohy s testom obnovy | Testovacia súprava |
| Osoba, ktorá to vytvorila, ako vlastník procesu | Denníky činností | Texty zverejnení podľa čl. 50 |
Otázky a odpovede
Najčastejšie otázky
Vytvorili sme agenta v Claude Code a funguje. Načo nám je revízia?
Aby ste zistili, čo sa stane, keď prestane fungovať alebo urobí niečo, čo nikto nechcel. Audit hodnotí oprávnenia, zálohy, kľúče, logy, testovaciu súpravu a dokumentáciu, nie prototyp. Ak na dvanásť otázok zo zoznamu odpoviete „áno“, audit nie je potrebný.
Znamená revízia, že treba všetko prestavať od začiatku?
Nie. Logika procesu, prompty a funkčné integrácie zvyčajne zostávajú. Upraviť treba oprávnenia, tajné kľúče, zálohy a logy. Dokumentáciu treba vytvoriť od základov, pretože pri samostatných implementáciách zvyčajne chýba.
Ako dlho trvá kontrola a koľko stojí?
Štyri pracovné dni do správy: rozhovor, dva dni na kontrolu podľa zoznamu 12 bodov, deň na prípravu správy s cenou každej úpravy. Cenovú ponuku pripravíme po úvodnom rozhovore, podľa počtu systémov. Správa je vaša bez ohľadu na to, kto vykoná úpravy.
Musíme vám poskytnúť prístup k údajom o zákazníkoch?
Nie. Audit si vyžaduje prístup ku konfigurácii, oprávneniam a logom, nie k obsahu dát. Ak treba overiť fungovanie na príkladoch, pracujeme s kópiou alebo anonymizovanými dátami.
Ďalšie cesty
Čo ďalej
-
Chceme začať Kde začať s implementáciou AI vo firme Ktorý proces vybrať ako prvý, ako ho merať a ako zistiť, či sa investícia vrátila. -
Právo a dohľad AI Act a poľský zákon: povinnosti firmy Čl. 4, čl. 50, poľský zákon od 11. augusta, sankcie od 28. októbra. Čo kontrolujeme a akú dokumentáciu odovzdávame. -
Dotácie Dotácie na implementáciu AI pre firmy v roku 2026 PARP, KPO, FENG: ktoré programy, aké limity a čo pripravujeme k žiadosti, aby ju bolo možné podať. - Generátor Plán implementácie v deviatich otázkach Odvetvie, veľkosť, proces, dáta, systémy. V odpovedi získate odporúčanie, etapy, cenové rámce, povinnosti a dotácie. Každá položka uvádza zdroj.
Nezáväzný rozhovor
Prehľad za štyri pracovné dni
Rozhovor, dva dni podľa zoznamu dvanástich bodov, správa s nákladmi na každú opravu. Začnime tridsiatimi minútami, počas ktorých nám poviete, čo nefunguje a kde.