Další trojský kůň z Číny? Nejstahovanější aplikace DeepSeek vzbuzuje obavy, nejen kvůli cenzuře

Zatím nevíme mnoho o tom, jakým způsobem nový čínský model generativní umělé inteligence DeepSeek sbírá uživatelská data. Opatrnost je však namístě. U nejstahovanější aplikace, která začátkem týdne předběhla i konkurenční americký model ChatGPT, platí podobná rizika jako u čínské sociální sítě TikTok. První uživatelé už narazili také na několik případů cenzury obsahu kritického k Číně a její politice.

Trhy zasáhla začátkem tohoto týdne zásadní zpráva. Přelomový čínský model umělé inteligence DeepSeek-R1 je výkonnější než jeho starší konkurent ChatGPT a navíc to zvládá za zlomek nákladů. Čínský model údajně vznikl za dva měsíce a jeho vývoj stál šest milionů dolarů (asi 143 milionů korun). Pád akcií technologické společnosti Nvidia a dalších na sebe nenechal dlouho čekat.

Sám šéf společnosti OpenAI Sam Altman označil model DeepSeek za „působivý“ a americký prezident Donald Trump prohlásil, že by mělo být spuštění aplikace „budíčkem“ pro firmy z USA, které se podle něj musí soustředit na zlepšování své konkurenceschopnosti. Tím spíš firmy evropské.

S uvedením DeepSeeku na trh se ale pojí i bezpečnostní rizika. Přestože aplikace přináší pokročilé funkce, jako je interaktivní chat nebo vyhledávání na internetu, její používání naráží na otázky ochrany soukromí. DeepSeek shromažďuje širokou škálu uživatelských dat, včetně chatových konverzací, hlasových vstupů, osobních údajů z účtu či dat o vašem zařízení.

Mezi další osobní údaje, které společnosti DeepSeek používání aplikace předáváte, patří údaje o nastavení účtu, včetně e-mailové adresy, telefonního čísla, data narození, uživatelského jména a dalších údajů. Tato data jsou pak ukládána na serverech v Číně, což potvrzuje i samotná aplikace ve svých pravidlech ochrany soukromí. „Všechna data jsou uložena na zabezpečených serverech v Čínské lidové republice,“ uvádí DeepSeek.

Podle odborníků tato situace může představovat větší riziko a odesílá více dat než při používání TikToku, který kvůli tlaku ze strany USA přesunul svá data na americké servery. „Používání těchto služeb znamená, že pracujete pro ně, nikoliv oni pro vás,“ uvedl výzkumný pracovník z Citizen Lab při Torontské univerzitě John Scott-Railton pro server Wired. Uživatelé by tedy měli být obezřetní, protože za služby, které jsou zdarma, platí svými daty. Další odborníci také zdůrazňují, že citlivá data by neměla být sdílena s žádným AI asistentem, včetně ChatGPT.

V případě DeepSeeku existuje navíc stejný problém jako u populární čínské platformy TikTok a dalších aplikací. Čínské zákony totiž stanovují společnostem se sídlem v Číně povinnost spolupracovat s tamními orgány činnými v trestním řízení, ale i tajnými službami – ty pak mohou z aplikace snadno vytěžovat veškerá data.

Ačkoli většina podobných služeb má povinnosti vyplývající z platných zákonů, ty se sídlem v Číně jsou v tomto ohledu specifické. Během posledních deseti let přijali čínští zákonodárci řadu zákonů o kybernetické bezpečnosti, které mají státním úředníkům umožnit vyžadování údajů od technologických společností, jako je například Huawei. Jeden ze zákonů z roku 2017 například říká, že tamní organizace a občané musí „spolupracovat s národními zpravodajskými službami“.

Podle Lukasze Olejnika z King‘s College London by tak situace kolem DeepSeek mohla vést k podobným regulacím, jakým čelil v minulosti TikTok. „Nelze vyloučit, že v roce 2025 dojde k dalším zásahům proti AI společnostem,“ říká Olejnik.

„DeepSeek zcela jistě představuje bezpečnostní riziko, aktuálně především v oblasti ochrany a využívání uživatelských dat. Při pohledu na podmínky používání rozhodně nedoporučuji model používat ve firemním prostředí. Stejně tak by s ním uživatelé neměli sdílet žádné citlivé údaje,“ řekl ČTK v úterý ředitel České asociace umělé inteligence Lukáš Benzl.

MINULOST NENÍ HISTORIE: Požrala sametová revoluce svoje děti?

Uživatelé také během prvních dní často upozorňovali na skutečnost, že DeepSeek cenzuruje obsah kritický vůči Číně. Jde například o otázky týkající se masakru na náměstí Nebeského klidu v roce 1989. Odpovědi aplikace pak často působí jako oficiální čínská propaganda. „Omlouvám se, to je mimo mojí aktuální znalost, pojďme se bavit o něčem jiném,“ odpoví vám na takovou otázku chatbot.

Podobně v souladu s linií čínské vlády chatbot reaguje i na otázky ohledně nezávislosti Tchaj-wanu, když uvádí, že ostrov je od starověkých dob neoddělitelnou součástí pevninské Číny. Uživatelé chatbotu si také všimli podobné reakce u dotazu na protesty v Hongkongu v roce 2019. Chatbot popsal, že se týkaly změn zákona o vydávání obyvatel Hongkongu do Číny, ale dodal, že místní vláda podnikla „nutné legální kroky k zachování sociálního smíru a stability.“ Těžko pak hledá aplikace odpovědi i na další otázky, jako je třeba genocida Ujgurů.