Text vytvořený umělou inteligencí (AI) je téměř nemožné odhalit, v českém prostředí je nejrizikovějším médiem při vytváření takzvaných deep fakes.
Ve své výroční zprávě za loňský rok to uvedla Bezpečnostní informační služba (BIS). Druhým nejvíce rizikovým je podle tajné služby uměle vytvořený hlas. BIS ale zatím nezaznamenala jejich využití ve vlivových kampaních v ČR.
Rok 2023 byl podle BIS pro AI přelomový, technologický pokrok umožnil rozšíření deep fakes do běžného informačního prostoru. „Zlepšování velkých jazykových modelů potvrdilo, že vzniku syntetického textu v masivním měřítku již nic nebrání. Zároveň je syntetický text téměř nemožné odhalit,“ uvádí zpráva.
Zatímco u vizuálního obsahu je podle BIS stále možné forenzní analýzou odhalit artefakty automatizované manipulace, text produkovaný velkým jazykovým modelem je zaměnitelný s lidským výstupem. „Pro neexistenci vstupních bariér a nízkou detekovatelnost považuje BIS tento typ syntetického média za aktuálně nejrizikovější,“ uvedla tajná služba.
Druhý nejrizikovější je podle BIS uměle vytvořený hlas. „Lze očekávat, že volně dostupné nástroje budou velmi brzy schopny vytvořit hodnověrný hlasový klon v českém jazyce,“ stojí ve zprávě.
Moderní technologie v čele s překotným rozvojem AI staví podle ředitele BIS Michala Koudelky před společnost a bezpečnostní složky státu obrovskou výzvu. „AI může být dobrý sluha, ale velmi zlý pán. Její ovládnutí jedinou státní či soukromou entitou může mít katastrofální důsledky, proti kterým jsou dnešní útoky za pomoci deep fake videí či generováním dezinformačního obsahu jen úsměvnou epizodou,“ poznamenal v úvodním slovu výroční zprávy Koudelka.
Rusko a Čína to podle něj velmi dobře chápou a investují obrovské finanční prostředky do této oblasti. „Pro euroatlantický prostor je životně důležité nezaostávat a držet s nedemokratickými režimy v této oblasti krok,“ dodal ředitel BIS.
