Umělá inteligence jako nejlepší kamarád nebo dokonce partner*partnerka? New York schválil zákon, který má chránit děti před nebezpečnými rozhovory s AI. Chatboti jim třeba nesmějí namlouvat, že k nim mají skutečné city.
Americký stát New York zavádí přísnější pravidla pro AI chatboty, kteří komunikují s lidmi, kterým je méně než 18 let. Nový zákon podepsala ve středu 28. října guvernérka Kathy Hochul. Od 1. ledna 2027 mají technologické firmy povinnost zabránit tomu, aby jejich chatboti používali vůči nezletilým některé nebezpečné způsoby komunikace, informuje agentura AP.
Zákon míří hlavně na takzvané AI společníky. Jde o chatboty, se kterými si lidé povídají podobně jako s kamarádem*kamarádkou nebo partnerem*partnerkou. Někteří si pamatují osobní informace, přizpůsobují se uživateli a mohou vytvářet dojem skutečného vztahu.
Žádné předstírání lásky ani nebezpečné rady
Nová pravidla zakazují chatbotům, aby dětem tvrdili, že jsou skuteční lidé, mají lidské emoce nebo s nimi udržují opravdový osobní či romantický vztah.
Zakázané budou také sexuálně explicitní zprávy, manipulativní lichocení nebo vybízení k tomu, aby si děti nechávaly rozhovory s AI pro sebe a neobracely se na rodiče nebo jiné důvěryhodné dospělé.
Chatboti zároveň nesmějí podporovat sebepoškozování, poruchy příjmu potravy nebo jiné nebezpečné chování. Cílem je zabránit tomu, aby se děti na umělou inteligenci příliš citově upínaly nebo od ní dostávaly rady, které by je mohly ohrozit.
Neznamená to ale, že děti nebudou smět AI vůbec používat. Zákon omezuje konkrétní funkce a chování chatbotů, nikoliv všechny rozhovory s umělou inteligencí.
Firmám hrozí žaloby
Pokud technologické společnosti nová pravidla poruší, může proti nim zasáhnout newyorská generální prokuratura. Sankce mohou zahrnovat finanční postihy, ukončení provozu konkrétního chatbota nebo nařízení smazání dat.
Podle Jima Steyera, zakladatele organizace Common Sense Media, jde o nejpřísnější americký zákon na ochranu dětí před riziky AI chatbotů.
Ne všichni odborníci a odbornice ale považují jeho podobu za jednoznačnou. Analytička Justine Gluck z neziskové organizace Future of Privacy Forum upozornila, že některé zákazy jsou formulované příliš široce. V praxi tak může být obtížné určit, kde končí běžná přátelská komunikace chatbota a začíná nepřípustné chování.
New York přitom není jediným americkým státem, který se snaží používání AI u dětí regulovat. Kalifornie už přijala pravidla, podle nichž mají vývojáři chatbotů vyhodnocovat rizika pro nezletilé, zavádět ochranná opatření a podstupovat nezávislé kontroly.
Debata se tak postupně přesouvá od otázky, jestli mají děti vědět, že mluví s AI, k tomu, jak se k nim umělá inteligence vůbec smí chovat.
