Ne každý obrázek, text nebo video vytvořené pomocí umělé inteligence musí být na první pohled jasně označeno. Článek 50 AI Actu stanovuje několik rozdílných povinností podle toho, o jaký systém a způsob jeho použití jde.
Jedna z povinností dopadá přímo na poskytovatele systémů, které vytvářejí nebo upravují text, obraz, zvuk či video. „Ti musí zajistit, aby bylo možné výstup vytvořený pomocí AI rozpoznat ve strojově čitelném formátu. Může jít například o digitální vodoznak, údaje uložené v souboru nebo jiný technický prvek. Spotřebitel tedy nemusí označení vždy vidět pouhým okem,“ vysvětluje ředitelka spotřebitelské organizace dTest Eduarda Hekšová.
Pozor na deepfakes
Přísnější požadavky se vztahují na takzvané deepfakes. Jde například o realisticky vypadající video politika pronášejícího výrok, který ve skutečnosti nikdy neřekl, nebo fotografii zobrazující událost, která se nestala.
Pokud někdo při své profesní činnosti vytvoří nebo upraví pomocí AI obrazový, zvukový či audiovizuální obsah, který se podobá skutečným osobám, místům, objektům nebo událostem a může být mylně považován za autentický, musí jeho umělý původ jasně uvést. Může-li takový obsah někoho uvést v omyl, byť i neúmyslně, pak osoba, která ho pomocí AI vytvořila, musí jasně informovat o jeho původu. Postačí k tomu např. zmíněná ikona „AI“ či krátké sdělení na začátku audionahrávky. „U uměleckých, satirických či fiktivních děl však pravidla připouštějí citlivější způsob označení, aby zbytečně nenarušovalo samotný zážitek,“ dodává Hekšová.
Chatbot, nebo člověk?
Další pravidlo se týká chatbotů a dalších systémů určených k přímé komunikaci s lidmi. Pokud například spotřebitel zahájí konverzaci se zákaznickou podporou e-shopu, měl by být informován, že na druhé straně komunikuje s umělou inteligencí a nikoliv s pracovníkem společnosti. Výjimkou mohou být případy, kdy je už ze samotných okolností zcela zřejmé, že člověk komunikuje s AI systémem. Odlišná situace může nastat také tehdy, pokud jsou výstupy před předáním uživateli skutečně kontrolovány člověkem.
AI Act pamatuje rovněž na systémy, které rozpoznávají emoce nebo kategorizují osoby na základě biometrických údajů. Může jít například o práci s podobou obličeje, hlasem nebo dalšími charakteristikami člověka. Pokud jsou lidé takovému systému vystaveni, provozovatel je o tom musí informovat.
Informování o záležitostech veřejného zájmu
Zvláštní pravidlo platí také pro texty určené k informování o záležitostech veřejného zájmu. Pokud byly vytvořeny nebo upraveny pomocí AI, má být jejich původ za stanovených podmínek jasně označen. Výjimkou mohou být zejména případy, kdy text prošel lidskou redakční kontrolou a za jeho zveřejnění nese konkrétní osoba nebo subjekt redakční odpovědnost.
Nová pravidla se přitom netýkají běžného soukromého používání umělé inteligence. Pokud si spotřebitel nechá pomocí AI například upravit soukromou fotografii nebo sestavit text pro vlastní potřebu, povinnosti podle článku 50 se na něj zpravidla nevztahují. „Především profesionální poskytovatelé a uživatelé AI však budou muset nově počítat s tím, že spotřebitel má mít podstatně lepší možnost poznat, kdy do obsahu nebo komunikace zasáhla umělá inteligence,“ uzavírá Hekšová z dTestu.
Kontakt pro média:
Lucie Korbeliusová, media@dtest.cz, tel.: +420 604 556 874
dTest, o.p.s. je největší českou spotřebitelskou organizací, která v ČR působí již od roku 1992. Je vydavatelem spotřebitelského časopisu dTest, na jehož stránkách jsou publikovány výsledky nezávislých a objektivních testů produktů, varování před nebezpečnými a zdravotně závadnými výrobky, informace o spotřebitelských právech a rady, jak tato práva účinně uplatňovat. dTest je součástí mezinárodní organizace International Consumer Research and Testing (ICRT) a evropské spotřebitelské organizace BEUC.
Poradenská linka časopisu dTest – 299 149 009 – je v provozu každý pracovní den od 9 do 17 hodin a spotřebitelé na ní mohou konzultovat s právními poradci dTestu nejrůznější spotřebitelské problémy, a to za cenu běžného tarifu volání. Od spuštění v roce 2010 této možnosti využily již desetitisíce spotřebitelů a poradenská linka časopisu dTest se tak stala první a nejvyhledávanější cestou k řešení potíží, se kterými se zákazníci na trhu setkávají.
- Co je AI Act?
- AI Act je nařízení Evropské unie, které stanovuje pravidla pro transparentnost obsahu vytvořeného umělou inteligencí.
- Jak poznám, že obsah vytvořil stroj?
- Obsah vytvořený AI by měl být označen ve strojově čitelném formátu, například digitálním vodoznakem.
- Jaké jsou požadavky na deepfakes?
- Deepfakes musí být jasně označeny, pokud mohou být mylně považovány za autentické, aby se předešlo dezinformacím.
- Jak se mění pravidla pro umělecká díla?
- Pravidla pro umělecká, satirická či fiktivní díla umožňují citlivější označení, aby nedošlo k narušení jejich povahy.