Dobrý den, přinášíme vám legislativní novinky, které platí v České republice v souvislosti s používáním AI.
Od 2. srpna 2026 platí nová pravidla transparentnosti
- Chatbot nebo voicebot na webu musí být viditelně označen jako AI. Nesmí vzniknout klamavý dojem, že občan píše s člověkem. Zároveň musí existovat cesta, jak se dostat k živému zaměstnanci.
- Texty, které úřad zveřejňuje pro informování veřejnosti o věcech veřejného zájmu a které generovala nebo výrazně upravila AI, je nutné označit. To se týká tiskových zpráv, článků na webu, zpravodaje i příspěvků na sociálních sítích.
- Totéž platí pro obrázky, zvuk a video, které mohou působit autenticky. ČTÚ doporučuje označení typu „AI generated“ (plně vytvořeno AI) a „AI modified“ (upraveno AI).
- Pokud používáte nástroje na rozpoznávání emocí nebo biometrickou kategorizaci osob, musíte o tom informovat každou dotčenou osobu.
Praktická poznámka: u systémů uvedených na trh před 2. srpnem 2026 je odklad strojově čitelného označování do 2. prosince 2026. Pravidla pro vysoce rizikové systémy dobíhají v letech 2026 a 2027.
Průvodce od Úřadu vlády a NÚKIB: podle čeho se bude posuzovat každé nasazení
Menší, ale často přehlížená povinnost: AI gramotnost zaměstnanců je podle čl. 4 AI Actu povinná už od února 2025 pro každého, kdo AI systémy používá profesně. Tedy i pro úřady a univerzity.
- Ochrana soukromí. Zaměstnanec musí vědět, kam se zadané údaje dostanou a kdo k nim má přístup.
- Transparentnost. Musí být zřejmé, co vytvořil člověk a kde pomohla AI.
- Odpovědné využívání. Zákaz manipulativního použití, deepfake obsahu a spoléhání se na neověřené výstupy.
- Férovost a nediskriminace. Výstupy mohou být zkreslené, i když AI výslovně zakážete diskriminovat.
- Bezpečnost. Používat jen nástroje schválené organizací nebo ověřeným správcem IT.
- Zachování lidského rozhodování. AI nesmí rozhodovat o dávce, povolení, sankci ani nahradit správní uvážení. Formální odklikání výstupu nestačí.
- Soulad s právem. Včetně autorských práv, správního řádu a spisové služby.
Zlaté pravidlo z Průvodce, které se dobře pamatuje: na AI se dívejte jako na velmi snaživého, ale nezkušeného stážistu. Podpis pod dokumentem je Váš, ne jeho.
Čtyři nejčastější problémy, které vidím na úřadech
Dvě věci, které bývají pro vedení nepříjemným překvapením:
- Úřad má povinnost vést evidenci toho, kde se AI používá, k čemu a s jakými vstupy. Nejde o deníčky jednotlivých úředníků, ale o institucionální přehled.
- Pokud kvůli neověřenému výstupu AI vznikne škoda, odpovídá za ni úřad. Náhradu pak lze vymáhat po konkrétním zaměstnanci, v některých případech i po dodavateli AI nástroje.
Šest kroků, které zvládnete do konce roku
- Zmapujte, co se u vás reálně používá. Bez toho nemá smysl dělat nic dalšího.
- Přijměte interní směrnici o AI. Seznam schválených nástrojů, klasifikace dat (veřejné, interní, důvěrné, citlivé) a jasný výčet toho, co se do AI nikdy nevkládá.
- Zkontrolujte chatbot na webu zda má označení, že jde o AI.
- Zaveďte označování AI obsahu ve zpravodaji, na webu a na sociálních sítích.
- Proškolte lidi. AI gramotnost je nová kompetence a zároveň zákonná povinnost. Určete role: kdo rozhoduje o nasazení, kdo je vlastníkem procesu, kdo IT garant.
- Ošetřete dodavatele smluvně. Kde se data zpracovávají, zda se používají k tréninku, jaká je právní role dodavatele (zpracovatel, nebo správce). NÚKIB k tomu letos vydal metodiku k zadávání veřejných zakázek v ICT.
U rozsáhlejšího zpracování osobních údajů doporučuji ještě posouzení vlivu na ochranu osobních údajů (DPIA).
Zdroje
- Průvodce a Desatero: vlada.gov.cz, sekce Státní služba, Ostatní dokumenty
- Stanovisko ČTÚ k pravidlům transparentnosti: ctu.gov.cz
- Varování a seznamy nedoporučených aplikací: nukib.gov.cz
- Součástí Průvodce jsou i použitelné přílohy: přehled povinností při zavádění AI nástrojů od Ministerstva vnitra a metodika analýzy vhodných případů využití od MPO včetně šablon.