Přejít k obsahu

Udělali jsme si sami

Audit implementace AI, kterou jste realizovali sami

Někdo ve firmě vytvořil agenta v Claude Code, n8n nebo Make. Funguje, dokud funguje. Prověříme, co se stane, až fungovat přestane, a co ponechat a co přepracovat.

  • Kroky: 4
  • Čtení: 5 min
  • Otázky: 4

Nenabádáme vás, abyste zahodili to, co už máte. Vlastní implementace je dobrým výchozím bodem: firma už ví, co chce, a má funkční prototyp. Revize zodpoví otázky, které při vývoji nikoho nenapadlo položit, protože tehdy nebyly potřeba.

Z 344 ověřených incidentů AI ve firmách z let 2023–2026 způsobil v 188 případech škodu samotný systém, bez útočníka. Vzorec se opakuje: agent získal při vývoji přístup k zápisu do databáze a nikdo mu ho neodebral při provozu.

V červenci 2026 provedl programovací agent napojený na produkční databázi po deseti minutách migraci v produkčním prostředí. V jiném popsaném případě trvalo smazání databáze včetně záložních kopií devět sekund.

Co se pokazí při samostatné implementaci

Oprávnění z fáze výstavby zůstávají zachována i během provozu

Agent má plný přístup k zápisu do databáze, schránky nebo CRM, protože to při testování bylo pohodlnější. Odebrání této možnosti a zavedení schvalování člověkem bývá obvykle první úpravou.

Záloha, kterou nikdo neobnovil

Záloha je v nastavení. Nikdo neověřil, zda z ní lze obnovit data a jak dlouho to trvá.

API klíče v kódu, tabulce nebo chatu

Klíč k modelu a účetnímu systému v jednom souboru, který vidí každý s přístupem do repozitáře.

Žádné logo

Nikdo nedokáže říct, co systém minulý týden v úterý odeslal a komu. Bez těchto informací nelze vyřídit reklamaci ani stížnost.

„Funguje“ znamená „fungovalo ve třech případech“

Chybí testovací sada, takže každá změna promptu nebo verze modelu se ověřuje v ostrém provozu na klientech.

Chatbot bez informace, že jde o AI

Od 2. srpna 2026 platí povinnost podle čl. 50 AI Act. Týká se chatbota na webu, hlasového bota a asistenta v e-mailové schránce, pokud odpovídá zákazníkovi.

Poskytovatel modelu mimo registr zpracování

Údaje klientů se odesílají do externího API, ale v záznamu o činnostech zpracování ani ve smlouvách o zpracování osobních údajů o tom není ani zmínka.

Detail mosazných ozubených kol, jeden zub prasklý, tenká zlatá prasklina
Dále, krok 02 Jak probíhá kontrola

Jak probíhá kontrola

  1. Den 1: úvodní konzultace a přístup ke konfiguraci Kdo to postavil, co má dělat, kde běží a jaké má klíče. Přístup ke konfiguraci, ne k zákaznickým datům.
  2. Dny 2–3: kontrola podle seznamu dvanácti bodů Stejný seznam, který zveřejňujeme níže. Každý bod dostane jedno ze tří hodnocení: ponechat, upravit, přepracovat.
  3. Den 4: zpráva s náklady na každou položku Co zůstává, co vylepšujeme, co se předělává a kolik každá položka stojí. Zpráva je vaše bez ohledu na to, kdo úpravy provede.
  4. Dny 5–10: úpravy (volitelné) Obvykle oprávnění, tajné údaje, zálohy, logy a testovací sada. Dokumentace vzniká od nuly, protože u samostatných implementací chybí.
Velká lupa nad plánem drobné automatizace, nakresleným zlatými liniemi, několik slabých míst je označeno oranžově
Dále, krok 03 Kontrolní seznam, kterým můžete sami projít

Kontrolní seznam, kterým můžete sami projít

Dvanáct otázek. Pokud na více než tři odpovíte „nevím“, je audit potřeba. Pokud na všechny odpovíte „ano“, potřeba není a nemá smysl za něj platit.

  1. Má agent samostatný účet s minimálními oprávněními? Ne účet zaměstnance, který ho zavedl.
  2. Vyžaduje nasazení do produkce schválení člověkem? Odeslání e-mailu, faktura, změna v CRM, smazání čehokoli.
  3. Obnovil někdo zálohu v posledním měsíci? Reprodukoval, nikoli „zapnul“.
  4. Kde jsou uloženy klíče API a kdo je vidí? Pokud odpověď začíná „v souboru“, jde o odpověď.
  5. Zaznamenává se do protokolu každá činnost systému? S časem a obsahem, abyste mohli odpovědět na reklamaci z minulého týdne.
  6. Kdo spouští testovací sadu po každé změně? Nejméně třicet případů, včetně těch obtížných.
  7. Co se stane, když dodavatel změní verzi modelu? Verze se vyřazují každých několik měsíců. Kdo o tom ví a kdo po změně kontroluje výsledek?
  8. Ví účastník hovoru, že mluví s AI? Klient nebo zaměstnanec. Čl. 50 AI Act, od 2. srpna 2026.
  9. Je dodavatel modelu v registru činností? Společně se smlouvou o zpracování. Platí pro každé externí API, do kterého se předávají osobní údaje.
  10. Kdo reaguje, když se v sedm ráno něco porouchá? Jméno a příjmení osoby odpovědné za systém, nikoli „IT oddělení“.
  11. Absolvovaly osoby používající nástroj zdokumentované školení? Čl. 4 AI Act: plán, seznam účastníků, materiály.
  12. Kolik systém stojí měsíčně a kdo vidí fakturu? Výkyvy na faktuře za API jsou nejčastějším překvapením po třetím měsíci.
Podložka s dvanácti poli, čtyři označená zlatou fajfkou, vedle klíč a zámek
Dále, krok 04 Co obvykle zůstává a co se předělává

Co obvykle zůstává a co se předělává

ZůstáváVylepšujemeVzniká od nuly
Logika procesu a výběr nástrojeOprávnění a samostatné účtyZásady používání AI
Prompty a konfigurace po testováníMísto pro klíče a tajemstvíRegistr systémů AI ve firmě
Integrace, které fungujíZálohy s testem obnovyTestovací sada
Osoba, která to vybudovala, jako vlastník procesuProtokoly činnostíTexty zveřejnění podle čl. 50
Tři bedny na pásu: jedna zapečetěná zlatou páskou, jedna otevřená s nářadím, jedna rozložená na části
To jsou všechny kroky Nejčastější dotazy a co dál

Otázky a odpovědi

Časté dotazy

Vytvořili jsme agenta v Claude Code a funguje. Proč potřebujeme revizi?

Abyste ověřili, co se stane, když přestane fungovat nebo udělá něco, co nikdo nechtěl. Kontrola posuzuje oprávnění, zálohy, klíče, logy, testovací sadu a dokumentaci, nikoli prototyp. Pokud na všech dvanáct otázek ze seznamu odpovíte „ano“, kontrola není potřeba.

Znamená audit kompletní přestavbu od začátku?

Ne. Logika procesu, prompty a funkční integrace obvykle zůstávají. Upravit je potřeba oprávnění, tajné údaje, zálohy a logy. Dokumentaci je nutné vytvořit od nuly, protože u samostatných implementací obvykle chybí.

Jak dlouho trvá kontrola a kolik stojí?

Čtyři pracovní dny do vypracování zprávy: úvodní rozhovor, dva dny kontroly podle dvanáctibodového seznamu, den na zprávu s náklady na každou opravu. Cenovou nabídku připravíme po úvodním rozhovoru podle počtu systémů. Zpráva je Vaše bez ohledu na to, kdo provede opravy.

Musíme vám poskytnout přístup k údajům zákazníků?

Ne. Kontrola vyžaduje přístup ke konfiguraci, oprávněním a protokolům, nikoli k obsahu dat. Tam, kde je nutné ověřit fungování na příkladech, pracujeme s kopií nebo anonymizovanými daty.

Jiné cesty

Co dál

Nezávazná konzultace

Kontrola do čtyř pracovních dnů

Rozhovor, dva dny podle seznamu dvanácti bodů, zpráva s náklady na každou opravu. Začněme třiceti minutami, během kterých nám povíte, co nefunguje a kde.