Po vlně mezinárodní kritiky a zahájení vyšetřování v Kalifornii už chatbot nebude moci generovat sexualizovaný deepfake obsah.
Platforma X Elona Muska ve středu oznámila, že její nástroj umělé inteligence (AI) Grok již nebude upravovat fotografie skutečných lidí tak, aby je zobrazoval v odhalujících oděvech. Sociální síť tímto krokem reaguje na masivní kritiku, které chatbot čelil poté, co generoval sexualizované obrázky žen a dětí.
Bezpečnostní tým X ve svém vyjádření uvedl: „Zavedli jsme technologická opatření, abychom zabránili chatbotu Grok upravovat obrázky skutečných lidí v odhalujících oblečeních, jako jsou bikiny.“ Zároveň dodal, že „toto omezení se vztahuje na všechny uživatele, včetně platících předplatitelů“.
Společnost tato opatření oznámila jen několik hodin poté, co generální prokurátor amerického státu Kalifornie začal vyšetřovat firmu xAI, která chatbot Grok vyvíjí. Vyšetřování se soustředí na vytváření „neoprávněného, sexuálně explicitního obsahu“. Firma xAI se dostala pod tlak zejména kvůli funkci „Spicy Mode“, přes kterou uživatelé pomocí jednoduchých textových příkazů vytvářeli sexualizovaný deepfake obsah.
