Návykový algoritmus, který uživatele nebezpečně vtahuje do toxického obsahu a ohrožuje jejich duševní zdraví, může oblíbenou aplikaci stát miliardy.
Evropská komise dospěla k předběžnému závěru, že sociální síť TikTok porušuje unijní nařízení o digitálních službách (DSA). Jádrem problému je doporučovací stránka „For You“ , která uživatele a uživatelky, včetně dětí, vystavuje nebezpečnému efektu, který je označován jako „králičí nora“.
Platformy k udržení pozornosti využívají návykový design a nekonečné scrollování. Komise zjistila, že algoritmus TikToku vyhodnocuje opakované sledování určitých videí jako pozitivní zájem. Jakmile se uživatel zastaví u obsahu spojeného s hubnutím, poruchami příjmu potravy, smutkem či izolací, systém ho okamžitě zaplaví podobnými, často ještě radikálnějšími videi. Tento koloběh může podle úřadů drasticky zhoršit duševní zdraví, prohloubit deprese a úzkosti.
Ačkoliv se TikTok snažil zavést určitá opatření, podle Evropské komise naprosto selhávají. Nástroje kontroly nefungují. Algoritmus totiž upřednostňuje reálnou dobu sledování před explicitní volbou uživatele. Ani kliknutí na tlačítko „nemám zájem“ tak k úniku z toxické „králičí nory“ často nestačí.
Co se změní?
Evropská unie se snaží toto „digitální otroctví“ ukončit. Komise proto nyní po TikToku požaduje zásadní změny v designu kanálu. Síť by měla přestat využívat dobu sledování jako hlavní indikátor, musí zlepšit uživatelské ovládání a algoritmy pravidelně testovat. Možnost vzít si zpět kontrolu nad svým feedem a například si jej přepnout jen na chronologické zobrazení přitom patří k hlavním zbraním digitální sebeobrany, kterou DSA občanům EU dává.
„Pokaždé, když uživatel na TikToku posouvá obsah nebo označí video jako ‚líbí se mi‘, algoritmus mu nabízí další podobný obsah, čímž uživatele zavádí do „králičí nory“, ze které se jen těžko dostanou. Zákon o digitálních službách ukládá platformám povinnost řešit negativní dopady související s jejich systémem doporučení. Dnešní předběžné závěry opět ukazují, že TikTok musí zintenzivnit své úsilí o ochranu duševního zdraví uživatelů, včetně nezletilých,“ uvedla Henna Virkkunen, výkonná viceprezidentka pro technologickou suverenitu, bezpečnost a demokracii.
Závěry Komise jsou zatím předběžné a TikTok má nyní prostor na obvinění reagovat. Pokud ale neprovede požadované změny a porušení pravidel se definitivně prokáže, hrozí mu astronomická sankce. Pokuta se může vyšplhat až do výše šesti procent z celkových celosvětových ročních tržeb společnosti.
