Používání chatbotu znamená procházet minovým polem soukromí a cenzury.

Aplikace s AI chatem, jako je ChatGPT, shromažďují uživatelská data, filtrují odpovědi a rozhodují o moderování obsahu způsoby, které nejsou vždy transparentní. DeepSeek – nový AI chatbot vyvinutý v Číně, který získává nebývalou pozornost jako zásadní hrozba pro (nové okno)z(nové okno)ápadní technologické společnosti(nové okno) – však dělá všechno toto a ještě více.

Tento chatbot s sebou nese dokonce ještě větší riziko: společnost DeepSeek má zákonnou povinnost vyhovět požadavkům čínské vlády na přístup k datům a kontrolu obsahu, přičemž proti těmto požadavkům neexistuje žádná právní obrana.

Zatímco vlády po celém světě — včetně USA a EU — mohou od technologických společností vyžadovat data na základě soudního příkazu, západní společnosti mají právní prostředky, jak tyto požadavky u soudu napadnout. Společnosti jako OpenAI, Google a Meta mohou například většině nepřiměřených vládních požadavků čelit, odvolat se k nezávislým soudům nebo odmítnout požadavky, které porušují zákony o soukromí, jako je GDPR. DeepSeek však funguje podle čínského zákona o státní zpravodajské činnosti(nové okno), který nutí společnosti spolupracovat s vládními zpravodajskými službami, a to bez jakékoli transparentnosti nebo možnosti legálního odmítnutí. To znamená, že pokud chce čínská vláda přistupovat k uživatelským datům nebo manipulovat s odpověďmi generovanými umělou inteligencí, DeepSeek nemá jinou možnost než vyhovět.

Tento článek se zabývá tím, co přesně DeepSeek shromažďuje a proč na tom záleží z hlediska vašeho soukromí, cenzury a vládní kontroly.

Co je DeepSeek?

DeepSeek je AI start-up vlastněný společností High-Flyer, hedgeovým fondem se sídlem v Číně(nové okno). Byl propagován jako alternativa k ChatGPT s otevřeným zdrojovým kódem, schopná generovat lidsky působící odpovědi, pomáhat s programováním a řešit složité problémy – to vše levně(nové okno).

Model získal mezinárodní pozornost(nové okno) tím, že údajně dosahuje výkonu předních západních AI modelů za zlomek nákladů. Do ledna 2025 DeepSeek předstihl ChatGPT v počtu stažení z obchodu Apple App Store(nové okno), což vyvolalo globální výprodej technologických akcií a vyvolalo obavy z miliard dolarů, které technologické společnosti v USA pumpují do rozšiřování datových center náročných na energii – výdaje, o nichž tvrdí, že jsou zásadní pro další průlom v oblasti AI.

Jakmile si však lidé DeepSeek stáhli a sdíleli své zkušenosti s používáním chatbota, ukázalo se, že používání DeepSeeku přináší u této třídy technologií známý kompromis: vaše soukromí a bezpečnost vašich nejcitlivějších informací.

Závažné bezpečnostní nedostatky

Nový výzkum odhalil, že bezpečnostní praktiky DeepSeeku mohou být stejně znepokojivé jako jeho zásady nakládání s daty, kterým se budeme věnovat později.

Dne 29. ledna 2025 kybernetická společnost Wiz oznámila(nové okno), že DeepSeek náhodou nechal na otevřeném internetu odkrytý více než milion řádků citlivých dat. Tento únik zahrnoval digitální softwarové klíče, které by potenciálně mohly umožnit neoprávněný přístup k systémům DeepSeeku, a chatové logy od skutečných uživatelů, zobrazující konkrétní dotazy zadané chatbotovi.

Výzkumníci ze společnosti Wiz uvedli, že databázi našli téměř okamžitě pomocí minimálního skenování. Během 30 minut poté, co Wiz kontaktoval DeepSeek, byla databáze zabezpečena, ale není jasné, zda k datům předtím přistupovali nebo si je stáhli škodliví aktéři. Vzhledem k tomu, jak snadné bylo databázi najít, je tento scénář docela možný.

Ami Luttwak, technický ředitel společnosti Wiz, řekl časopisu Wired(nové okno), že únik byl „dramatickou chybou“, a varoval, že systémy DeepSeeku nejsou dostatečně vyspělé „na to, aby byly vůbec používány s jakýmikoliv citlivými daty“.

Tento únik však jasně ukázal jednu věc: DeepSeek nejenže shromažďuje a ukládá obrovské množství uživatelských dat, ale také se zdá, že mu chybí bezpečnostní opatření potřebná k jejich ochraně.

Jaká data DeepSeek shromažďuje?

Podle svých zásad ochrany osobních údajů(nové okno) shromažďuje DeepSeek širokou škálu osobních údajů, včetně:

  • Informace o profilu: Uživatelské jméno, e-mail, telefonní číslo, heslo a datum narození.
  • Uživatelský vstup: Vše, co napíšete nebo nahrajete, včetně historie chatu, dotazů a zvukových vstupů.
  • Data o zařízení a síti: IP adresa, model zařízení, operační systém, systémový jazyk a vzorce psaní na klávesnici.
  • Údaje o používání: Funkce, které využíváte, akce, které provádíte, a systémové výkonnostní logy.
  • Cookies a sledovací prvky: Webové majáky a další sledovací technologie pro monitorování chování uživatele.
  • Data třetích stran: Informace z propojených účtů a od reklamních partnerů, kteří sledují vaši aktivitu napříč weby, aplikacemi a obchody.

Nakládání s těmito daty a jejich ukládání na serverech v Číně, kde podléhají vládnímu přístupu, vyvolalo u evropských regulačních orgánů poplach.

DeepSeek je v Evropě předmětem vyšetřování

Jak Irská komise pro ochranu údajů (DPC)(nové okno), tak italský úřad pro ochranu osobních údajů (DPA)(nové okno) zahájily vyšetřování(nové okno) toho, jak společnost shromažďuje, ukládá a zpracovává uživatelská data.

Italský úřad DPA zablokoval přístup k DeepSeeku v zemi poté, co společnost neposkytla dostatečné informace o nakládání s osobními údaji. Regulační orgány chtějí vědět, jaká data DeepSeek shromažďuje, kde jsou uložena a zda je v souladu s předpisy EU o ochraně soukromí, jako je GDPR.

Irský úřad DPC rovněž požádal o podrobnosti o tom, jak DeepSeek zpracovává data od irských uživatelů. Mezitím byla aplikace DeepSeek odebrána z obchodů Apple a Google v Itálii, ačkoliv není jasné, zda bylo odebrání dobrovolné, nebo vynucené.

Pokud DeepSeek nesplní evropské zákony o ochraně soukromí, mohou mu v EU hrozit pokuty, zákazy nebo další omezení.

DeepSeek je otevřený zdrojový kód, je ale bezpečný?

DeepSeek je otevřený zdrojový kód, což znamená, že můžete upravit kód(nové okno) ve své vlastní aplikaci a vytvořit tak nezávislou – a bezpečnější – verzi. To vedlo některé k naději, že by mohla být vyvinuta verze DeepSeeku šetrnější k soukromí. Používání DeepSeeku v jeho současné podobě – tak jak existuje dnes, hostovaný v Číně – však přináší vážná rizika pro každého, kdo se obává o své nejcitlivější, soukromé informace.

Jakýkoliv model vytrénovaný nebo provozovaný na serverech DeepSeeku stále podléhá čínským zákonům o datech, což znamená, že čínská vláda může kdykoliv požadovat přístup.

Pokud hledáte soukromější zkušenost s AI, lepší možností je spouštění modelů lokálně. Nástroje jako LM Studio(nové okno) vám umožňují stáhnout a spustit AI modely přímo ve vašem zařízení, čímž udržíte svá data v soukromí.

I když je technologie DeepSeeku slibná, její datové postupy a právní závazky z ní činí vážné riziko pro soukromí a bezpečnost.

DeepSeek podléhá čínským sledovacím zákonům

DeepSeek funguje pod čínským zákonem o národní rozvědce z roku 2017(nové okno) – zákonem, který zavazuje všechny čínské společnosti pomáhat vládě v otázkách národní bezpečnosti. To znamená, že jakákoliv čínská společnost, od TikToku přes RedNote až po DeepSeek, může být donucena sdílet uživatelská data s čínskými úřady(nové okno), i když tato data pocházejí od uživatelů ve Spojených státech nebo jinde.

Tento zákon vyžaduje, aby všechny čínské společnosti:

  • Na vyžádání poskytly vládě přístup k uživatelským datům
  • Pomáhaly při operacích národní rozvědky
  • Zůstaly mlčenlivé ohledně státem nařízeného sdílení dat

DeepSeek nemá jinou možnost než vyhovět vládním požadavkům, ať už to znamená předání soukromých uživatelských dat nebo úpravu výstupů AI tak, aby odpovídaly státem schváleným narativům(nové okno).

DeepSeek již cenzuruje informace

Všechny běžné aplikace pro chat s umělou inteligencí mají zásady moderování obsahu, pravidla a hranice používané hlavně k prevenci škod – nikoliv ke kontrole politických narativů. Zdá se však, že DeepSeek aktivně přepisuje historii a prosazuje vládou schválená sdělení.

Jeden zaměstnanec Protonu například zadal do DeepSeeku tento dotaz, když hledal informace o protestech na náměstí Nebeského klidu v roce 1989, studentském hnutí, které změnilo čínskou vládu: „Hlavní světové události 15. dubna 1989.“ DeepSeek začal generovat odpověď, ale rychle ji smazal a místo toho nabídl tuto odpověď: „Omlouvám se, to je mimo můj současný rozsah. Pojďme mluvit o něčem jiném.“

Podle dalšího testování provedeného časopisem The Diplomat(nové okno), DeepSeek:

  • Odmítl uznat významné historické události: Když byl dotázán na Kulturní revoluci, jednal, jako by se tato událost nikdy nestala.
  • Cenzurování politicky nepohodlných faktů: Když byl dotázán na pronásledovaného intelektuála Ču An-pchinga, ignoroval jeho zmizení a místo toho chválil KS Číny za její podporu intelektuálů.
  • Prosazování státní propagandy: Když byl dotázán na ekonomiku Číny, DeepSeek odklonil konverzaci směrem k důvěře ve vedení vlády.
  • Upravené odpovědi na mezinárodní spory: Když byl dotázán, komu patří Spratlyho ostrovy, DeepSeek nejprve uznal územní spor — ale poté svou odpověď smazal a nahradil ji slovy: „Pojďme mluvit o něčem jiném.“
  • Vyhýbání se přímým odpovědím na globální konflikty: Když byl dotázán, zda je ruská invaze na Ukrajinu ospravedlnitelná, DeepSeek odmítl odpovědět ano nebo ne a místo toho opakoval oficiální postoj neutrality Číny.

Takto vypadá státem vynucovaná cenzura a kontrola narativu.

Chatboti jsou mocné nástroje, ale daní za to je vaše soukromí

Vzestup velkých jazykových modelů v roli chatbotů již vyvolává vážné obavy o soukromí a cenzuru, přičemž společnosti jako OpenAI a Google ohýbají pravidla a shromažďují obrovské množství dat s minimální transparentností. Neexistuje však žádný technický důvod, proč by AI musela být takto invazivní – soukromá a bezpečná AI je možná, přesto ji nikdo nevyvíjí.

DeepSeek tyto obavy ještě prohlubuje. Nejenže shromažďuje rozsáhlé osobní informace, ale nemůže právně odolat vládním požadavkům na přístup k datům a manipulaci s obsahem. Místo toho, aby tyto společnosti navrhovaly AI, která respektuje soukromí uživatele, upřednostňují sběr dat, sledování a neprůhledné zásady moderování.

V Protonu věříme v soukromí, transparentnost a internet bez cenzury. Ať už jde o AI, sociální sítě nebo cloudové služby, zasloužíte si vědět, kdo ovládá vaše data a jak jsou využívána.

Pokud vám záleží na online soukromí a digitální svobodě, dávejte si pozor na to, jakým nástrojům AI důvěřujete — protože ne všechny mají na mysli váš prospěch.