Od zítřka budou muset být všechny mediální výstupy generované umělou inteligencí označené strojově čitelným vodoznakem. Pravidla bojují i s dezinformacemi a klamáním spotřebitelů.
Pravidla platí pro vývojáře AI a firmy, které ji používají
Vývojáři AI musí zajistit, aby veškeré výstupy vytvořené s pomocí jejich programů měly strojově čitelný vodoznak a metadata podle otevřených standardů - typicky C2PA.
Pokud AI využívá firma, musí označovat vypublikovaný obsah v následujících případech:
- U AI textů zveřejněných s cílem informovat veřejnost (např. zpravodajské články), pokud neprošly redakční kontrolou a není nikdo, kdo by za ně nesl redakční zodpovědnost.
- U interaktivních AI systémů a chatbotů.
- Pokud se jedná o deepfake - ten si EU definuje jako obrazový, zvukový nebo video obsah vytvořený či upravený AI, který realisticky napodobuje skutečné osoby, místa nebo události a mohl by někoho uvést v omyl.
Deepfake přitom nemusí napodobovat skutečnou osobu konkrétně. EU ponechala definici záměrně vágní a stačí, pokud by vyobrazená osoba „mohla existovat“.
Označit se tedy musí například marketingové obrázky, které vyobrazují produkt a mohly by klamat o jeho vlastnostech, nebo jakékoliv materiály, které používají AI unfluencera. Také platí povinnost označit jako AI chatbota, hlasového asistenta nebo systém, který automaticky provádí rezervace.
Co to znamená pro běžné uživatele*uživatelky?
Znamená to, že všechny obrázky, videa a audionahrávky vytvořené generativní inteligencí ponesou od 2. srpna neviditelný vodoznak, díky kterému si můžeš nechat ověřit, jestli se jedná o AI. Stačí je nahrát např. do Google Gemini a ten by ti měl správně říct, jestli obrázek vodoznak nese, nebo ne.
Nová regulace taky bojuje s dezinformacemi. Pokud někdo vydá falešnou zprávu nebo článek generovaný AI, musí ji nutně označit.
Za porušení hrozí vysoké pokuty
V případě porušení pravidel transparentnosti mohou firmám hrozit pokuty až 15 milionů eur (přes 360 milionů korun) nebo tří procent celosvětového ročního obratu společnosti, podle toho, co z toho je vyšší.
Rada EU ale schválila novelu, která přináší vývojářům v některých případech odklad povinností. Pokud byl jejich model generativní AI zveřejněn před 2. srpna 2026, na implementaci watermarkingu výstupů mají čas až do 2. 12. 2026. Odklad se ale týká jen strojově čitelného označování u systémů genAI – viditelné označování deepfakes a chatbotů platí od srpna pro všechny.
Výjimky, odklad a dobrovolný kodex
Evropská unie publikovala také dobrovolný kodex používání AI, který přináší například sjednocené ikony pro označení AI obsahu. Pokud firmy podepíšou kodex, na kterém pracovalo šest nezávislých expertů a zapojilo se přes 180 organizací, můžou si být jisté, že postupují správně a nebudou mít žádné legální problémy spojené s EU Actem.
Mimo jiné myslí EU Act také na výjimky. Jako AI se nemusí označovat třeba základní asistivní editace fotografií, jako je úprava barev nebo gramatická korektura. Mírnější režim mají také satirická a umělecká díla.
