AI už nesmí děti přesvědčovat, že je miluje. New York schválil nový zákon
1
1
0
29. října 2026 v 12:00
Čas čtení 1:26

AI už nesmí děti přesvědčovat, že je miluje. New York schválil nový zákon

Diskutovat
Uložit Uložené

Umělá inteligence jako nejlepší kamarád nebo dokonce partner*partnerka? New York schválil zákon, který má chránit děti před nebezpečnými rozhovory s AI. Chatboti jim třeba nesmějí namlouvat, že k nim mají skutečné city.

Chatbot
Zdroj: pixy/CC0 Public Domain

Americký stát New York zavádí přísnější pravidla pro AI chatboty, kteří komunikují s lidmi, kterým je méně než 18 let. Nový zákon podepsala ve středu 28. října guvernérka Kathy Hochul. Od 1. ledna 2027 mají technologické firmy povinnost zabránit tomu, aby jejich chatboti používali vůči nezletilým některé nebezpečné způsoby komunikace, informuje agentura AP.

Zákon míří hlavně na takzvané AI společníky. Jde o chatboty, se kterými si lidé povídají podobně jako s kamarádem*kamarádkou nebo partnerem*partnerkou. Někteří si pamatují osobní informace, přizpůsobují se uživateli a mohou vytvářet dojem skutečného vztahu.

Žádné předstírání lásky ani nebezpečné rady

Nová pravidla zakazují chatbotům, aby dětem tvrdili, že jsou skuteční lidé, mají lidské emoce nebo s nimi udržují opravdový osobní či romantický vztah.

10. listopadu 2026 v 10:15 Čas čtení 1:11 Instagram si nově může myslet, že jsi teenager. A podle toho ti omezit účet Instagram si nově může myslet, že jsi teenager. A podle toho ti omezit účet

Zakázané budou také sexuálně explicitní zprávy, manipulativní lichocení nebo vybízení k tomu, aby si děti nechávaly rozhovory s AI pro sebe a neobracely se na rodiče nebo jiné důvěryhodné dospělé.

Chatboti zároveň nesmějí podporovat sebepoškozování, poruchy příjmu potravy nebo jiné nebezpečné chování. Cílem je zabránit tomu, aby se děti na umělou inteligenci příliš citově upínaly nebo od ní dostávaly rady, které by je mohly ohrozit.

Neznamená to ale, že děti nebudou smět AI vůbec používat. Zákon omezuje konkrétní funkce a chování chatbotů, nikoliv všechny rozhovory s umělou inteligencí.

Firmám hrozí žaloby

Pokud technologické společnosti nová pravidla poruší, může proti nim zasáhnout newyorská generální prokuratura. Sankce mohou zahrnovat finanční postihy, ukončení provozu konkrétního chatbota nebo nařízení smazání dat.

Podle Jima Steyera, zakladatele organizace Common Sense Media, jde o nejpřísnější americký zákon na ochranu dětí před riziky AI chatbotů.

Ne všichni odborníci a odbornice ale považují jeho podobu za jednoznačnou. Analytička Justine Gluck z neziskové organizace Future of Privacy Forum upozornila, že některé zákazy jsou formulované příliš široce. V praxi tak může být obtížné určit, kde končí běžná přátelská komunikace chatbota a začíná nepřípustné chování.

9. listopadu 2026 v 17:10 Čas čtení 1:56 AI spotřebovává tolik energie, že firmy shánějí staré letecké motory. Na nové turbíny čekají roky AI spotřebovává tolik energie, že firmy shánějí staré letecké motory. Na nové turbíny čekají roky

New York přitom není jediným americkým státem, který se snaží používání AI u dětí regulovat. Kalifornie už přijala pravidla, podle nichž mají vývojáři chatbotů vyhodnocovat rizika pro nezletilé, zavádět ochranná opatření a podstupovat nezávislé kontroly.

Debata se tak postupně přesouvá od otázky, jestli mají děti vědět, že mluví s AI, k tomu, jak se k nim umělá inteligence vůbec smí chovat.

6. listopadu 2026 v 16:10 Čas čtení 0:48 „Prezident ví, co na sebe.“ Česká firma použila fotku Petra Pavla k reklamě, Hrad se ozval „Prezident ví, co na sebe.“ Česká firma použila fotku Petra Pavla k reklamě, Hrad se ozval
10. listopadu 2026 v 7:48 Čas čtení 1:45 ŽEBŘÍČEK: Tohle je 50 nejlepších lékařů a lékařek z Česka. Chodíš k někomu z nich i ty? ŽEBŘÍČEK: Tohle je 50 nejlepších lékařů a lékařek z Česka. Chodíš k někomu z nich i ty?
7. listopadu 2026 v 9:30 Čas čtení 0:58 Pozor na kuřecí maso. Veterinární správa objevila salmonelu u známého řetězce Pozor na kuřecí maso. Veterinární správa objevila salmonelu u známého řetězce