Nenabádáme vás, abyste zahodili to, co už máte. Vlastní implementace je dobrým výchozím bodem: firma už ví, co chce, a má funkční prototyp. Revize zodpoví otázky, které při vývoji nikoho nenapadlo položit, protože tehdy nebyly potřeba.
Z 344 ověřených incidentů AI ve firmách z let 2023–2026 způsobil v 188 případech škodu samotný systém, bez útočníka. Vzorec se opakuje: agent získal při vývoji přístup k zápisu do databáze a nikdo mu ho neodebral při provozu.
V červenci 2026 provedl programovací agent napojený na produkční databázi po deseti minutách migraci v produkčním prostředí. V jiném popsaném případě trvalo smazání databáze včetně záložních kopií devět sekund.
Co se pokazí při samostatné implementaci
Oprávnění z fáze výstavby zůstávají zachována i během provozu
Agent má plný přístup k zápisu do databáze, schránky nebo CRM, protože to při testování bylo pohodlnější. Odebrání této možnosti a zavedení schvalování člověkem bývá obvykle první úpravou.
Záloha, kterou nikdo neobnovil
Záloha je v nastavení. Nikdo neověřil, zda z ní lze obnovit data a jak dlouho to trvá.
API klíče v kódu, tabulce nebo chatu
Klíč k modelu a účetnímu systému v jednom souboru, který vidí každý s přístupem do repozitáře.
Žádné logo
Nikdo nedokáže říct, co systém minulý týden v úterý odeslal a komu. Bez těchto informací nelze vyřídit reklamaci ani stížnost.
„Funguje“ znamená „fungovalo ve třech případech“
Chybí testovací sada, takže každá změna promptu nebo verze modelu se ověřuje v ostrém provozu na klientech.
Chatbot bez informace, že jde o AI
Od 2. srpna 2026 platí povinnost podle čl. 50 AI Act. Týká se chatbota na webu, hlasového bota a asistenta v e-mailové schránce, pokud odpovídá zákazníkovi.
Poskytovatel modelu mimo registr zpracování
Údaje klientů se odesílají do externího API, ale v záznamu o činnostech zpracování ani ve smlouvách o zpracování osobních údajů o tom není ani zmínka.
Jak probíhá kontrola
- Den 1: úvodní konzultace a přístup ke konfiguraci Kdo to postavil, co má dělat, kde běží a jaké má klíče. Přístup ke konfiguraci, ne k zákaznickým datům.
- Dny 2–3: kontrola podle seznamu dvanácti bodů Stejný seznam, který zveřejňujeme níže. Každý bod dostane jedno ze tří hodnocení: ponechat, upravit, přepracovat.
- Den 4: zpráva s náklady na každou položku Co zůstává, co vylepšujeme, co se předělává a kolik každá položka stojí. Zpráva je vaše bez ohledu na to, kdo úpravy provede.
- Dny 5–10: úpravy (volitelné) Obvykle oprávnění, tajné údaje, zálohy, logy a testovací sada. Dokumentace vzniká od nuly, protože u samostatných implementací chybí.
Kontrolní seznam, kterým můžete sami projít
Dvanáct otázek. Pokud na více než tři odpovíte „nevím“, je audit potřeba. Pokud na všechny odpovíte „ano“, potřeba není a nemá smysl za něj platit.
- Má agent samostatný účet s minimálními oprávněními? Ne účet zaměstnance, který ho zavedl.
- Vyžaduje nasazení do produkce schválení člověkem? Odeslání e-mailu, faktura, změna v CRM, smazání čehokoli.
- Obnovil někdo zálohu v posledním měsíci? Reprodukoval, nikoli „zapnul“.
- Kde jsou uloženy klíče API a kdo je vidí? Pokud odpověď začíná „v souboru“, jde o odpověď.
- Zaznamenává se do protokolu každá činnost systému? S časem a obsahem, abyste mohli odpovědět na reklamaci z minulého týdne.
- Kdo spouští testovací sadu po každé změně? Nejméně třicet případů, včetně těch obtížných.
- Co se stane, když dodavatel změní verzi modelu? Verze se vyřazují každých několik měsíců. Kdo o tom ví a kdo po změně kontroluje výsledek?
- Ví účastník hovoru, že mluví s AI? Klient nebo zaměstnanec. Čl. 50 AI Act, od 2. srpna 2026.
- Je dodavatel modelu v registru činností? Společně se smlouvou o zpracování. Platí pro každé externí API, do kterého se předávají osobní údaje.
- Kdo reaguje, když se v sedm ráno něco porouchá? Jméno a příjmení osoby odpovědné za systém, nikoli „IT oddělení“.
- Absolvovaly osoby používající nástroj zdokumentované školení? Čl. 4 AI Act: plán, seznam účastníků, materiály.
- Kolik systém stojí měsíčně a kdo vidí fakturu? Výkyvy na faktuře za API jsou nejčastějším překvapením po třetím měsíci.
Co obvykle zůstává a co se předělává
| Zůstává | Vylepšujeme | Vzniká od nuly |
|---|---|---|
| Logika procesu a výběr nástroje | Oprávnění a samostatné účty | Zásady používání AI |
| Prompty a konfigurace po testování | Místo pro klíče a tajemství | Registr systémů AI ve firmě |
| Integrace, které fungují | Zálohy s testem obnovy | Testovací sada |
| Osoba, která to vybudovala, jako vlastník procesu | Protokoly činností | Texty zveřejnění podle čl. 50 |
Otázky a odpovědi
Časté dotazy
Vytvořili jsme agenta v Claude Code a funguje. Proč potřebujeme revizi?
Abyste ověřili, co se stane, když přestane fungovat nebo udělá něco, co nikdo nechtěl. Kontrola posuzuje oprávnění, zálohy, klíče, logy, testovací sadu a dokumentaci, nikoli prototyp. Pokud na všech dvanáct otázek ze seznamu odpovíte „ano“, kontrola není potřeba.
Znamená audit kompletní přestavbu od začátku?
Ne. Logika procesu, prompty a funkční integrace obvykle zůstávají. Upravit je potřeba oprávnění, tajné údaje, zálohy a logy. Dokumentaci je nutné vytvořit od nuly, protože u samostatných implementací obvykle chybí.
Jak dlouho trvá kontrola a kolik stojí?
Čtyři pracovní dny do vypracování zprávy: úvodní rozhovor, dva dny kontroly podle dvanáctibodového seznamu, den na zprávu s náklady na každou opravu. Cenovou nabídku připravíme po úvodním rozhovoru podle počtu systémů. Zpráva je Vaše bez ohledu na to, kdo provede opravy.
Musíme vám poskytnout přístup k údajům zákazníků?
Ne. Kontrola vyžaduje přístup ke konfiguraci, oprávněním a protokolům, nikoli k obsahu dat. Tam, kde je nutné ověřit fungování na příkladech, pracujeme s kopií nebo anonymizovanými daty.
Jiné cesty
Co dál
-
Chceme začít Kde začít s implementací AI ve firmě Který proces zvolit jako první, jak ho měřit a podle čeho poznat návratnost. -
Právo a dohled AI Act a polský zákon: povinnosti firmy Čl. 4, čl. 50, polský zákon od 11. srpna, sankce od 28. října. Co prověřujeme a jakou dokumentaci předáváme. -
Dotace Dotace na implementaci AI pro firmy v roce 2026 PARP, KPO, FENG: které programy, jaké limity a co připravíme pro podání žádosti. - Generátor Plán implementace v devíti otázkách Odvětví, velikost, proces, data, systémy. V odpovědi získáte doporučení, fáze, cenové relace, povinnosti a dotace. Každá položka má uvedený zdroj.
Nezávazná konzultace
Kontrola do čtyř pracovních dnů
Rozhovor, dva dny podle seznamu dvanácti bodů, zpráva s náklady na každou opravu. Začněme třiceti minutami, během kterých nám povíte, co nefunguje a kde.