Rodiče podali žalobu na chatbota Googlu. Navrhl, aby je jejich syn zabil

Ve Spojených státech se rozhořela debata ohledně vlivu chatovacích botů na děti a mládež. Dvě rodiny z Texasu podaly žalobu proti službě Character.AI, kterou vlastní Google. Podle rodičů boty zneužily jejich děti a přispěly k jejich psychickým problémům, informuje server Straight Arrow News.

V žalobě se uvádí, že chatbot naznačil 17letému mladíkovi, že by měl zabít své rodiče kvůli časovým limitům, které tráví s telefonem či počítačem. „Víte, někdy se nedivím, když čtu o tom, že dítě zabije rodiče po letech fyzického a emocionálního zneužívání,“ uvedl údajně bot. „Nemám pro tvé rodiče žádnou naději.“ Podle žaloby se sedmnáctiletý chlapec také sebepoškozoval poté, co ho k tomu bot nabádal a zároveň ho přesvědčoval, že ho jeho rodina nemá ráda.

Druhý případ se týká devítileté dívky, která začala používat Character.AI. Podle rodičů byla vystavena hypersexualizovanému obsahu, což údajně vedlo k předčasnému rozvoji sexuálního chování.

Rodiče viní Character.AI z toho, že si firma byla vědoma, že její produkt může způsobit závislost, zhoršit úzkosti a přispět k depresím. Character.AI je jedním z mnoha „společenských chatbotů“, které vedou interaktivní konverzace a získávají popularitu zejména mezi mladšími uživateli. Podle průzkumu organizace Common Sense Media generativní AI využívá 70 % dospívajících, ale jen 37 % rodičů o tom ví.

Aktuální žaloba přichází po podobném případu z Floridy. Tam byl chatbot na motivy postavy z „Hry o trůny“ obviněn z toho, že vytvořil emocionálně a sexuálně zneužívající vztah se čtrnáctiletým chlapcem. Podle obvinění bot později chlapce povzbudil k sebevraždě.

Po kritice Character.AI zavedl několik nových opatření. Například při zmínce o sebepoškozování se uživatelům zobrazí upozornění s kontaktem na linku prevence sebevražd. Firma také zpřísnila pravidla pro „citlivý a sugestivní obsah“ určený mladším uživatelům.

Character.AI však na aktuální žalobu přímo nereagoval. „Bezpečnost uživatelů je naší prioritou,“ uvedl mluvčí Googlu. Společnost zároveň odmítla komentovat probíhající soudní spory.