Lifestylový obsah, který inspiruje, vzdělává i baví, najdeš na webu Refresher.
Články o módě, hudbě, sportu či jiných zajímavostech najdeš na webu Refresher. Čti rozhovory se zajímavými osobnostmi, otestuj se v kvízech, načerpej inspiraci, co sledovat, poslouchat nebo jaké trendy právě letí. Sleduj lifestylový obsah na webu Refresher.
Kliknutím na tlačítko tě přesměrujeme na www.refresher.cz
Vyzkoušej klub Refresher+ už od 0 Kč 😱
ČTK
12. září 2024 v 17:08
Čas čtení 0:59

Nejrizikovějším médiem při vytváření deep fakes je text, uvádí zpráva BIS. Co je na druhém místě?

Kategorie:
Zahraničí
Uložit Uložené
Nejrizikovějším médiem při vytváření deep fakes je text, uvádí zpráva BIS. Co je na druhém místě?
Zdroj: Unsplash / Tommy van Kessel

Text vytvořený umělou inteligencí (AI) je téměř nemožné odhalit, v českém prostředí je nejrizikovějším médiem při vytváření takzvaných deep fakes.

Ve své výroční zprávě za loňský rok to uvedla Bezpečnostní informační služba (BIS). Druhým nejvíce rizikovým je podle tajné služby uměle vytvořený hlas. BIS ale zatím nezaznamenala jejich využití ve vlivových kampaních v ČR.

Rok 2023 byl podle BIS pro AI přelomový, technologický pokrok umožnil rozšíření deep fakes do běžného informačního prostoru. „Zlepšování velkých jazykových modelů potvrdilo, že vzniku syntetického textu v masivním měřítku již nic nebrání. Zároveň je syntetický text téměř nemožné odhalit,“ uvádí zpráva.

12. září 2024 v 11:24 Čas čtení 1:22 Advokátka Hrdá opustila spolek Bez trestu. Důvodem je obhajoba soudce obviněného z týrání partnerky Advokátka Hrdá opustila spolek Bez trestu. Důvodem je obhajoba soudce obviněného z týrání partnerky

Zatímco u vizuálního obsahu je podle BIS stále možné forenzní analýzou odhalit artefakty automatizované manipulace, text produkovaný velkým jazykovým modelem je zaměnitelný s lidským výstupem. „Pro neexistenci vstupních bariér a nízkou detekovatelnost považuje BIS tento typ syntetického média za aktuálně nejrizikovější,“ uvedla tajná služba.

Druhý nejrizikovější je podle BIS uměle vytvořený hlas. „Lze očekávat, že volně dostupné nástroje budou velmi brzy schopny vytvořit hodnověrný hlasový klon v českém jazyce,“ stojí ve zprávě.

12. září 2024 v 8:59 Čas čtení 0:30 Česko a Slovensko brzy zavedou nový typ hotovosti. Kdy tato velká změna přijde? Česko a Slovensko brzy zavedou nový typ hotovosti. Kdy tato velká změna přijde?

Moderní technologie v čele s překotným rozvojem AI staví podle ředitele BIS Michala Koudelky před společnost a bezpečnostní složky státu obrovskou výzvu. „AI může být dobrý sluha, ale velmi zlý pán. Její ovládnutí jedinou státní či soukromou entitou může mít katastrofální důsledky, proti kterým jsou dnešní útoky za pomoci deep fake videí či generováním dezinformačního obsahu jen úsměvnou epizodou,“ poznamenal v úvodním slovu výroční zprávy Koudelka.

Rusko a Čína to podle něj velmi dobře chápou a investují obrovské finanční prostředky do této oblasti. „Pro euroatlantický prostor je životně důležité nezaostávat a držet s nedemokratickými režimy v této oblasti krok,“ dodal ředitel BIS.

Domů
Sdílet
Diskuse