ČTÚ doporučuje postupovat ve třech základních krocích. Prvním krokem je správně určit vlastní roli. Dále pak identifikovat konkrétní povinnosti, které se na daný subjekt vztahují. Třetím krokem je následné nastavení procesů a opatření zajišťujících soulad s požadavky AI Actu.
Čl. 50 AI Actu stanoví povinnosti poskytovatele systému AI, tj. osoby, která jej uvádí na trh nebo do provozu, a zavádějících subjektů, tj. osob, které využívají systém AI při jiné než osobní neprofesionální činnosti. Správné určení role je zásadní, protože některé povinnosti dopadají pouze na poskytovatele systémů AI, jiné pouze na zavádějící subjekty. Pokud přitom osoba využívá vlastní systém AI, bude povinna plnit jak povinnosti poskytovatele, tak povinnosti zavádějícího subjektu.
AI Act upravuje několik různých situací, pro které stanoví specifické požadavky na transparentnost.
Povinnost informovat o komunikaci se systémem AI
Ustanovení čl. 50 odst. 1 AI Actu ukládá poskytovatelům systémů AI zajistit, aby fyzické osoby byly náležitým způsobem informovány o tom, že komunikují s chatbotem, voicebotem nebo jiným systémem určeným k přímé interakci s fyzickými osobami, náležitým způsobem.
Označování obsahu vytvořeného pomocí AI
ČTÚ připomíná, že podle čl. 50 odst. 2 se povinnost poskytovatelů AI systémů zajistit, aby výstupy těchto systémů byly řádně označeny ve strojově čitelném formátu a byly tak i detekovatelné, vztahuje na veškerý zvukový, obrazový, video nebo textový obsah, krom stanovených výjimek.
Naproti tomu povinnost zavádějícího subjektu podle čl. 50 odst. 4 se vztahuje toliko na tzv. deep fake a texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu. Pokud je tedy obrazový, zvukový nebo video obsah vytvořen nebo významně upraven zavádějícím subjektem pomocí AI způsobem, který může vzbudit dojem autenticity, vzniká povinnost informovat veřejnost o tom, že byl tento obsah vytvořen nebo upraven za pomoci umělé inteligence. Totéž platí pro text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, generovaný nebo manipulovaný AI systémem.
ČTÚ v tomto směru upozorňuje, že podle čl. 50 odst. 5 AI Actu je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu „AI generated“ pro plně generovaný obsah nebo „AI modified“ pro obsah upravený pomocí AI. Příklady vhodných způsobů označení lze nalézt v Kodexu správné praxe pro transparentnost AI generovaného obsahu.
Rozpoznávání emocí a biometrická kategorizace
ČTÚ dále upozorňuje, že podle čl. 50 odst. 3 mají zavádějící subjekty využívající systémy AI pro rozpoznávání emocí nebo biometrickou kategorizaci fyzických osob povinnost řádně informovat o jejich použití každou dotčenou fyzickou osobu.
ČTÚ rovněž připomíná, že AI Act stanoví řadu výjimek z výše uvedených pravidel, kupříkladu pro účely související s odhalováním trestné činnosti apod., a doporučuje dotčeným subjektům vyhodnotit, zda daná činnost nespadá pod některou z těchto výjimek.
Doporučení ČTÚ
Pro správné porozumění jednotlivým povinnostem ČTÚ doporučuje prostudovat čl. 50 AI Actu společně s relevantními pokyny Evropské komise, případně Kodexem správné praxe pro transparentnost AI generovaného obsahu.
ČTÚ zároveň upozorňuje, že nad dodržováním těchto povinností budou vykonávat dohled orgány dozoru nad trhem příslušného členského státu Evropské unie, přičemž v České republice půjde mj. o Český telekomunikační úřad. V některých případech bude namísto těchto orgánů dodržování čl. 50 AI Actu vymáhat Evropský úřad pro umělou inteligenci (Úřad pro AI). Příslušnost konkrétního orgánu v rámci České republiky bude vždy odvislá od osoby poskytovatele či zavádějícího subjektu a v případě kompetence Úřadu pro AI také na poskytovateli obecného modelu umělé inteligence, na němž je daný systém založen.
Český telekomunikační úřad doporučuje všem dotčeným subjektům, aby včas provedly posouzení svých povinností a přijaly opatření nezbytná k zajištění souladu s pravidly transparentnosti podle AI Actu.
Code of Practice on Transparency of AI-generated Content | Shaping Europe’s digital future
- Jaká pravidla transparentnosti AI se zavádějí?
- Nová pravidla podle AI Act stanovují povinnosti pro poskytovatele a zavádějící subjekty AI systémů, včetně informování uživatelů o interakci s AI.
- Co znamená správné určení role v AI systému?
- Správné určení role je klíčové pro dodržení povinností, protože některé se vztahují pouze na poskytovatele, jiné na zavádějící subjekty.
- Jaké jsou konkrétní povinnosti poskytovatelů AI?
- Poskytovatelé AI musí zajistit, aby uživatelé byli informováni o interakci s AI a aby výstupy systémů byly správně označeny.
- Kdy nabudou nová pravidla účinnosti?
- Nová pravidla transparentnosti podle AI Act nabudou účinnosti 2. srpna 2026.