Tato stránka nepředstavuje právní poradenství. Jde o seznam toho, co kontrolujeme při každé implementaci, a dokumentů, které připravujeme pro případ kontroly nebo stížnosti. U systémů vysoce rizikových a zdravotních údajů spolupracujeme s právní kanceláří klienta.
Vše závisí na jednom rozlišení. Dodavatel vytváří systém AI a uvádí ho na trh. Subjekt, který systém používá, ho využívá ve své činnosti.
Firma, která nasadila chatbota od externího dodavatele nebo používá model přes API, je subjektem, který AI systém používá. Její povinnosti jsou užší, ale odpovídá za to, jak systém funguje v jejích procesech.
Data týkající se společnosti využívající AI
- platí Povinnost zajistit kompetence personálu v oblasti AI (čl. 4) a zákaz praktik podle čl. 5, mimo jiné rozpoznávání emocí na pracovišti a sociálního skórování.
- platí Transparentnost (čl. 50): chatbot, voicebot a asistent při kontaktu s člověkem musí informovat, že jde o AI; syntetický obsah a deepfake musí být označeny. Od tohoto dne členské státy předpisy vymáhají a ukládají sankce.
- platí Dne 3. července 2026 vstupuje v platnost zákon o systémech umělé inteligence (Sb. 2026, pol. 1003). Zřizuje Komisi pro rozvoj a bezpečnost umělé inteligence (KRiBSI) při Ministerstvu digitalizace.
- platí Začínají platit ustanovení zákona o kontrolách, řízeních a sankcích. Od tohoto dne může klient, zaměstnanec nebo konkurent podat ke KRiBSI stížnost na fungování systému AI ve firmě.
- již brzy Povinnosti pro samostatné vysoce rizikové systémy podle přílohy III (mj. nábor, hodnocení zaměstnanců, úvěruschopnost, vzdělávání). Termín byl posunut z 2. srpna 2026 prostřednictvím Digital Omnibus, zveřejněného v Úředním věstníku EU dne 24. července 2026.
- již brzy Povinnosti pro AI zabudovanou do produktů podléhajících zvláštním předpisům (Příloha I): stroje, zdravotnické prostředky, vozidla.
Pět povinností uživatele, které kontrolujeme
Kompetence v oblasti AI (čl. 4)
Zdokumentovaná školení přizpůsobená riziku a roli: plán, seznam účastníků, materiály. Neexistuje jeden povinný kurz ani certifikát. Důležité je, zda lze po incidentu doložit, že lidé používající nástroj věděli, co smějí a co ne.
Zveřejnění (čl. 50)
Každý chatbot, voicebot a asistent, který odpovídá zákazníkovi nebo zaměstnanci, uvádí, že jde o AI. Generovaný obsah včetně obrázků a videa je označen. Platí to také pro bota na webu a automatické odpovědi v e-mailové schránce.
Zakázané praktiky (čl. 5)
Rozpoznávání emocí v práci a ve škole, sociální scoring, podprahová manipulace. V malých a středních firmách se s tím setkáte zřídka, ale náborové nástroje a monitorování zaměstnanců se této hranice dotýkají.
GDPR při každém externím API
Poskytovatel modelu v záznamu o činnostech zpracování, smlouva o zpracování osobních údajů a ověření předávání mimo EHP. Dále rozhodnutí, zda je nutné posouzení vlivu (DPIA), například při profilování zákazníků nebo monitorování zaměstnanců.
Vysoké riziko od prosince 2027
Pokud systém ovlivňuje zaměstnávání, hodnocení zaměstnanců, úvěry nebo vzdělávání, od 2. prosince 2027 přibývají povinnosti subjektu, který jej používá: lidský dohled, uchovávání logů a informování zaměstnanců. Evidenci těchto systémů je vhodné začít vést už nyní, protože právě ta určuje, na které systémy se předpisy vztahují.
Tresty
Za zakázané praktiky stanoví AI Act pokutu až 35 mil. EUR nebo 7 % celosvětového obratu. Za porušení ostatních povinností, včetně povinnosti transparentnosti, až 15 mil. EUR nebo 3 %. Pro malé a střední podniky platí nižší z těchto částek.
V Polsku provádí kontroly a ukládá sankce KRiBSI na základě zákona o systémech umělé inteligence. Ustanovení o sankcích platí od 28. října 2026.
V praxi jsou zdokumentované školení a zásady používání AI první věcí, na kterou se orgán nebo druhá strana sporu zeptá při každém incidentu s účastí AI. Chybějící dokument je horší než nedokonalý dokument.
Co připravujeme při implementaci
Zásady používání AI
Co lze vkládat do nástrojů a co ne; které nástroje jsou schválené; kdo schvaluje nové; co se děje při obcházení pravidel.
Registr systémů AI ve firmě
Název, dodavatel, jaká data, k čemu, kdo je vlastníkem, klasifikace rizika. Jedna tabulka, která ukazuje, kterých předpisů se každý systém týká.
Školení s dokumentací (čl. 4)
Program přizpůsobený rolím, seznam účastníků, materiály, krátký test. Školení zaměřená na automatizaci a AI lze podle publikace PARP refundovat z Bazy Usług Rozwojowych až do výše 83 % nákladů.
Číst víceTexty zveřejnění (čl. 50)
Na webu, v chatbotu, v patičce automatické odpovědi i u generovaných materiálů. Sami je používáme: stránka s generovaným obsahem na hexart.pl je příkladem.
Číst víceEvidence činností zpracování osobních údajů a vzor smlouvy o zpracování
Pro každého externího dodavatele modelu, kterého implementace využívá. Pokud data nesmějí opustit firmu, alternativou je model na vlastním serveru.
Číst vícePostup při incidentu
Kdo systém vypíná, kdo informuje zákazníky, kdo zaznamenává průběh a v jakém čase. Jedna stránka, kterou lze přečíst v sedm ráno.
Právní stav k 5. září 2026. Zdroje: AI Act (nařízení EU 2024/1689), nařízení „Digital Omnibus“ a zákon ze dne 3. července 2026 o systémech umělé inteligence (Sb. 2026, pol. 1003). Tato stránka nenahrazuje právní poradenství.
Otázky a odpovědi
Časté dotazy
Musí chatbot na našem webu informovat, že jde o AI?
Ano. Od 2. srpna 2026 článek 50 AI Act vyžaduje, aby systém komunikující s lidmi informoval, že jde o AI, pokud to není z kontextu zřejmé. Týká se to chatbota na webu, voicebota i automatických odpovědí v e-mailové schránce, které dostává zákazník.
Musíme zaměstnance školit v oblasti AI?
Ano. Od 2. února 2025 vyžaduje čl. 4 AI Act, aby personál měl znalosti a dovednosti v oblasti AI přizpůsobené své roli a rizikům. Není předepsán jeden povinný kurz. Rozhodující jsou zdokumentované kroky: plán, seznam účastníků a materiály. Vnitrostátní orgány budou tuto povinnost vymáhat od 3. srpna 2026.
Může zaměstnanec používat ChatGPT k práci?
Možná, pokud firma stanovila, co lze vkládat a z jakého účtu. Osobní údaje, smlouvy a personální záležitosti by se neměly dostat do nástroje bez smlouvy o zpracování osobních údajů a zápisu v registru činností. Stačí jednostránková pravidla pro používání AI, není potřeba dvacetistránkový řád.
Týká se to firmy s patnácti zaměstnanci?
Ano. Článek 4 a článek 50 nestanovují žádnou hranici podle velikosti firmy. U malých a středních podniků se liší výše pokut: platí nižší z obou částek. Rozsah dokumentace závisí na riziku. Firmě, která s pomocí asistenta připravuje nabídky, stačí pravidla používání, registr nástrojů a krátké školení.
Co se mění od 28. října 2026?
Začínají platit ustanovení polského zákona o systémech umělé inteligence týkající se kontrol, řízení a sankcí. Od tohoto dne může klient, zaměstnanec nebo konkurent podat ke KRiBSI stížnost na fungování systému AI ve firmě. Samotný zákon platí od 11. srpna 2026.
Jiné cesty
Co dál
-
Chceme začít Kde začít s implementací AI ve firmě Který proces zvolit jako první, jak ho měřit a podle čeho poznat návratnost. -
Udělali jsme si sami Audit implementace AI, kterou jste realizovali sami Agent nasazený v Claude Code, n8n nebo Make funguje, dokud funguje. Prověříme, co se stane, když fungovat přestane. -
Dotace Dotace na implementaci AI pro firmy v roce 2026 PARP, KPO, FENG: které programy, jaké limity a co připravíme pro podání žádosti. - Generátor Plán implementace v devíti otázkách Odvětví, velikost, proces, data, systémy. V odpovědi získáte doporučení, fáze, cenové relace, povinnosti a dotace. Každá položka má uvedený zdroj.
Nezávazná konzultace
Kontrola souladu za jeden den
Registr systémů, zásady používání, texty oznámení a plán školení. Začneme třicetiminutovou schůzkou: co máte, kdo to používá a jaká data v tom jsou.