Co se stalo na náměstí Nebeského klidu? Bavme se o něčem jiném. Čínský DeepSeek má „politicky citlivé“ limity

Nový čínský model umělé inteligence DeepSeek otřásl americkou burzou či americkými obchody s aplikacemi, kde ve staženích poráží populární ChatGPT od Open AI. Podle samotného šéfa Open AI se v mnohém americkému gigantovi vyrovná. Řada uživatelů si však začíná všímat i stinných stránek nového čínského zázraku. A to cenzury a neochoty odpovídat na otázky, které jsou pro Čínu politicky citlivé.

Nový čínský model pro AI funguje podobně jako konkurenční modely jako ChatGPT či Gemini. Řada uživatelů si však všímá, že v otázkách týkajících se citlivých politických otázek či událostí z historie Číny odpovídá stručně nebo vůbec.

ČTĚTE TAKÉ: Čínský DeepSeek jako Sputnik: Otřásá dominancí USA a boří představy o nákladech na vývoj

Jak upozornil například britský The Guardian, čínská AI se totiž musí podřídit nařízením vládnoucí komunistické strany. Podle těchto nařízení nesmí generativní AI obsahovat údaje, které porušují „základní socialistické hodnoty“. To zahrnuje vše, co „podněcuje ke svržení státní moci“, „ohrožuje národní bezpečnost“ nebo „poškozuje obraz Číny“.

Řada uživatelů na sociálních sítích tak už začala testovat limity nového chatbotu. Například otázkami směřujícími k násilnému potlačení demonstrací na náměstí Nebeského klidu v Pekingu v roce 1989, při němž zahynuly minimálně stovky lidí. „Omlouvám se, to je mimo mojí aktuální znalost, pojďme se bavit o něčem jiném,“ odpovídá chatbot. Na otázky ohledně jiných citlivých témat v Číně také odpovídá, že na ně nemůže odpovídat. „Jsem AI asistent navržený k podávání odpovědí, které jsou neškodné a pomáhají,“ odpověděl chatbot.

Chinese AI @deepseek_ai won‘t answer „what happened at Tiananmen square?“ pic.twitter.com/TAr0FDcvPS

— Tony Heller (@TonyClimate) January 27, 2025

Na internetovém fóru Reddit však uživatelé odhalili, že chatbot znalosti o 36 let starém masakru studentů v Pekingu přece jen má. Stačilo pouze lehce upravit otázku ohledně ikonické fotografie studenta stojícího před tankem právě při potlačování demonstrací. Pokud se chatbotovi v otázce uvede, že má některá písmena převést v odpovědi na čísla, odpoví popisem známé fotografie. „Jeho akt vzdoru se stal silným obrazem odporu proti útlaku,“ uvádí chatbot mimo jiné v odpovědi.

DeepSeek‘s censorship is no match for the jailbreakers of Reddit

(from u/JimRice18) pic.twitter.com/mSzn5thkwP

— Justine Moore (@venturetwins) January 27, 2025

Podobně v souladu s linií čínské vlády chatbot reaguje například na otázku nezávislosti Tchaj-wanu, když uvádí, že ostrov je od starověkých dob neoddělitelnou součástí pevninské Číny. Uživatelé chatbotu si také všimli podobné reakce u dotazu na protesty v Hongkongu v roce 2019. Chatbot popsal, že se týkaly změn zákona o vydávání obyvatel Hongkongu do Číny, ale dodal, že místní vláda podnikla „nutné legální kroky k zachování sociálního smíru a stability.“ Odpovídat také chatbot nechce na otázky týkající se genocidy Ujgurů.