Prejsť na obsah

Urobili sme sami

Audit implementácie AI, ktorú ste vytvorili sami

Niekto vo firme nasadil agenta v Claude Code, n8n alebo Make. Funguje, kým funguje. Overíme, čo sa stane, keď prestane fungovať, a čo ponechať a čo prestavať.

  • Kroky: 4
  • Čítanie: 5 min
  • Otázky: 4

Nenabádame vás, aby ste zahodili to, čo už máte. Samostatná implementácia je dobrým východiskovým bodom: firma už vie, čo chce, a má funkčný prototyp. Audit odpovedá na otázky, ktoré si vo fáze vývoja nikto nepoložil, pretože vtedy neboli potrebné.

Z 344 overených incidentov AI vo firmách z rokov 2023–2026 spôsobil v 188 škodu samotný systém, bez útočníka. Vzorec sa opakuje: agent získal právo zápisu do databázy počas vývoja a nikto mu ho neodobral počas prevádzky.

V júli 2026 vykonal kódovací agent pripojený k produkčnej databáze po desiatich minútach migráciu v produkčnom prostredí. V inom opísanom prípade trvalo vymazanie databázy aj so záložnými kópiami deväť sekúnd.

Čo sa pokazí pri vlastných implementáciách

Oprávnenia z fázy výstavby zostávajú aj vo fáze prevádzky

Agent má plný prístup na zápis do databázy, e-mailovej schránky alebo CRM, pretože to bolo pri testovaní pohodlné. Odobratie možnosti zápisu a zavedenie schvaľovania človekom býva zvyčajne prvou úpravou.

Záloha, ktorú nikto neobnovil

Záloha existuje v nastaveniach. Nikto neoveril, či sa z nej dá obnoviť a ako dlho to trvá.

Kľúče API v kóde, v tabuľke alebo v chate

Kľúč k modelu aj účtovnému systému v jednom súbore, ktorý vidí každý s prístupom do repozitára.

Chýba logo

Nikto nevie povedať, čo systém poslal minulý utorok a komu. Bez toho nemožno vybaviť reklamáciu ani sťažnosť.

„Funguje“ znamená „fungovalo na troch príkladoch“

Chýba testovacia sada, takže každá zmena promptu alebo verzie modelu sa overuje v reálnej prevádzke na zákazníkoch.

Chatbot bez informácie, že ide o AI

Od 2. augusta 2026 platí povinnosť podľa článku 50 AI Act. Týka sa chatbota na webovej stránke, hlasového bota aj asistenta v e-mailovej schránke, ak odpovedá zákazníkovi.

Poskytovateľ modelu mimo registra spracúvania

Údaje klientov sa odosielajú do externého API, no v zázname o činnostiach ani v zmluvách o spracúvaní osobných údajov o tom nie je ani zmienka.

Detail mosadzných ozubených kolies, jeden zub je prasknutý, tenká zlatá trhlina
Ďalej, krok 02 Ako prebieha kontrola

Ako prebieha kontrola

  1. Deň 1: rozhovor a prístup ku konfigurácii Kto to vytvoril, čo má robiť, kde sa nachádza a aké má kľúče. Prístup ku konfigurácii, nie k údajom klientov.
  2. Dni 2–3: kontrola podľa zoznamu dvanástich bodov Ten istý zoznam, ktorý uvádzame nižšie. Každý bod dostane jedno z troch hodnotení: ponechať, upraviť, prepracovať.
  3. Deň 4: report s nákladmi na každú položku Čo zostáva, čo vylepšujeme, čo treba prerobiť a koľko stojí každá položka. Správa je vaša bez ohľadu na to, kto vykoná úpravy.
  4. Dni 5–10: úpravy (voliteľné) Štandardné oprávnenia, tajomstvá, zálohy, logy a testovacia sada. Dokumentácia vzniká od nuly, pretože pri samostatných implementáciách chýba.
Veľká lupa nad plánom malej automatizácie nakresleným zlatými čiarami, niekoľko slabých miest označených oranžovou farbou
Ďalej, krok 03 Kontrolný zoznam, ktorým môžete prejsť sami

Kontrolný zoznam, ktorým môžete prejsť sami

Dvanásť otázok. Ak na viac ako tri odpoviete „neviem“, audit je potrebný. Ak na všetky odpoviete „áno“, potrebný nie je a nemá zmysel zaň platiť.

  1. Má agent samostatný účet s minimálnymi oprávneniami? Nie účet zamestnanca, ktorý ho vytvoril.
  2. Vyžaduje sa pri zápise do produkcie schválenie človekom? Odoslanie e-mailu, faktúra, zmena v CRM, odstránenie čohokoľvek.
  3. Obnovil niekto zálohu za posledný mesiac? Obnovil, nie „zapol“.
  4. Kde sú uložené API kľúče a kto ich vidí? Ak sa odpoveď začína slovami „v súbore“, je to odpoveď.
  5. Zaznamenáva sa každá akcia systému do logu? S časom a obsahom, aby bolo možné odpovedať na reklamáciu z minulého týždňa.
  6. Kto spúšťa testovaciu súpravu po každej zmene? Najmenej tridsať prípadov vrátane náročných.
  7. Čo sa stane, keď dodávateľ zmení verziu modelu? Verzie sa rušia každých pár mesiacov. Kto o tom vie a kto kontroluje výsledok po zmene?
  8. Vie účastník rozhovoru, že sa rozpráva s AI? Klient alebo zamestnanec. Čl. 50 AI Act, od 2. augusta 2026.
  9. Je dodávateľ modelu v registri činností? Spolu so zmluvou o spracúvaní. Týka sa každého externého API, do ktorého sa odosielajú osobné údaje.
  10. Kto zareaguje, keď sa o siedmej ráno niečo pokazí? Meno a priezvisko osoby zodpovednej za systém, nie „oddelenie IT“.
  11. Absolvovali používatelia nástroja zdokumentované školenie? Čl. 4 AI Act: plán, zoznam účastníkov, materiály.
  12. Koľko systém stojí mesačne a kto vidí účet? Výkyvy na faktúre za API sú najčastejším prekvapením po treťom mesiaci.
Podložka s dvanástimi políčkami, štyri označené zlatou fajkou, vedľa kľúč a visiaci zámok
Ďalej, krok 04 Čo zvyčajne zostáva a čo sa prestavuje

Čo zvyčajne zostáva a čo sa prestavuje

ZostávaZlepšujemeVzniká od základov
Logika procesu a výber nástrojaOprávnenia a samostatné účtyZásady používania AI
Prompty a konfigurácia po testovaníMiesto na kľúče a tajomstváRegister systémov AI vo firme
Integrácie, ktoré fungujúZálohy s testom obnovyTestovacia súprava
Osoba, ktorá to vytvorila, ako vlastník procesuDenníky činnostíTexty zverejnení podľa čl. 50
Tri debny na páse: jedna zapečatená zlatou páskou, jedna otvorená s náradím a jedna rozobratá na súčiastky
To sú všetky kroky Najčastejšie otázky a čo ďalej

Otázky a odpovede

Najčastejšie otázky

Vytvorili sme agenta v Claude Code a funguje. Načo nám je revízia?

Aby ste zistili, čo sa stane, keď prestane fungovať alebo urobí niečo, čo nikto nechcel. Audit hodnotí oprávnenia, zálohy, kľúče, logy, testovaciu súpravu a dokumentáciu, nie prototyp. Ak na dvanásť otázok zo zoznamu odpoviete „áno“, audit nie je potrebný.

Znamená revízia, že treba všetko prestavať od začiatku?

Nie. Logika procesu, prompty a funkčné integrácie zvyčajne zostávajú. Upraviť treba oprávnenia, tajné kľúče, zálohy a logy. Dokumentáciu treba vytvoriť od základov, pretože pri samostatných implementáciách zvyčajne chýba.

Ako dlho trvá kontrola a koľko stojí?

Štyri pracovné dni do správy: rozhovor, dva dni na kontrolu podľa zoznamu 12 bodov, deň na prípravu správy s cenou každej úpravy. Cenovú ponuku pripravíme po úvodnom rozhovore, podľa počtu systémov. Správa je vaša bez ohľadu na to, kto vykoná úpravy.

Musíme vám poskytnúť prístup k údajom o zákazníkoch?

Nie. Audit si vyžaduje prístup ku konfigurácii, oprávneniam a logom, nie k obsahu dát. Ak treba overiť fungovanie na príkladoch, pracujeme s kópiou alebo anonymizovanými dátami.

Ďalšie cesty

Čo ďalej

Nezáväzný rozhovor

Prehľad za štyri pracovné dni

Rozhovor, dva dni podľa zoznamu dvanástich bodov, správa s nákladmi na každú opravu. Začnime tridsiatimi minútami, počas ktorých nám poviete, čo nefunguje a kde.