Poznat na první pohled, zda na druhé straně chatu sedí člověk, nebo zda si prohlížíš reálnou fotografii nebo výtvor počítačového algoritmu, je stále těžší. V reakci na tento vývoj vstupují v platnost nová pravidla transparentnosti.
Na dodržování pravidel v Česku dohlíží mimo jiné Český telekomunikační úřad (ČTÚ). Vývojáři i firmy mají na zavedení změn do praxe tříměsíční přechodné období. Pro firmy, e-shopy, banky či operátory, kteří AI využívají, vydal ČTÚ jasné doporučení, jak postupovat.
Co všechno se musí po novém označovat?
Pravidla transparentnosti pokrývají několik klíčových oblastí každodenního fungování služeb a médií.
1. Chatboti a hlasoví asistenti
Pokud zákaznictvo komunikuje s automatizovaným systémem na webu e-shopu, v mobilní aplikaci banky nebo u operátora, musí být jasně a včas informováno, že hovoří s AI, nikoliv s člověkem.
2. Generovaný i upravený obsah
Poskytovatelé AI systémů musí zajistit, aby veškerý vygenerovaný zvukový, obrazový, videový nebo textový obsah obsahoval strojově čitelnou a detekovatelnou značku (metadata či vodoznaky).
Zvláštní důraz je kladen na deep fakes a texty zveřejňované za účelem informování veřejnosti o záležitostech veřejného zájmu. Pokud takový obsah vytvoříš nebo významně upravíš pomocí AI, musíš o tom veřejnost přiznaně informovat.
3. Rozpoznávání emocí a biometrie
Pokud firma či instituce používá systémy AI k rozpoznávání emocí nebo biometrické kategorizaci osob, má zákonnou povinnost o tom každou dotčenou fyzickou osobu přímo informovat.
Jak má označení vypadat v praxi?
Označení musí být pro uživatelstvo srozumitelné, jasné a viditelné. V praxi se doporučuje využívat přehledné štítky nebo ikony, jako například AI generated nebo AI modified. Příklady vhodného designu a umístění ikon nabízí Kodex správné praxe pro transparentnost AI generovaného obsahu vydaný Evropskou komisí.
