At bruge en chatbot betyder at bevæge sig igennem et minefelt af privatlivs- og censurproblemer.

AI-chat-apps såsom ChatGPT indsamler brugerdata, filtrerer svar og træffer beslutninger om indholdsmoderering, som ikke altid er gennemsigtige. Men DeepSeek – en ny AI-chatbot udviklet i Kina, der får hidtil uset opmærksomhed som en væsentlig trussel mod (nyt vindue)v(nyt vindue)estlige teknologivirksomheder(nyt vindue) – gør alt dette og mere til.

Faktisk indebærer denne chatbot en endnu større risiko: DeepSeek er juridisk forpligtet til at efterkomme den kinesiske regerings krav om at få adgang til data og indholdskontrol uden nogen juridisk mulighed for at modsætte sig.

Selvom regeringer verden over – inklusiv i USA og EU – kan indkalde data fra tech-virksomheder via stævninger, har vestlige virksomheder juridiske muligheder for at anfægte disse anmodninger i retten. OpenAI, Google og Meta kan eksempelvis modsætte sig de fleste overdrevne statslige krav, appellere til uafhængige domstole eller afvise anmodninger, der overtræder privatlivslovgivning som f.eks. GDPR. DeepSeek opererer derimod under Kinas lov om national efterretningstjeneste(nyt vindue), som tvinger virksomheder til at samarbejde med statslige efterretningsorganer uden gennemsigtighed eller mulighed for juridisk at sige nej. Det betyder, at hvis den kinesiske regering ønsker at få adgang til brugerdata eller manipulere AI-genererede svar, har DeepSeek intet andet valg end at efterkomme kravet.

Denne artikel dykker ned i, hvad DeepSeek indsamler, og hvorfor det er vigtigt i forhold til Deres privatliv, censur og statslig kontrol.

Hvad er DeepSeek?

DeepSeek er en AI-startupvirksomhed, der ejes af High-Flyer, en Kina-baseret hedgefonde(nyt vindue). Den er blevet promoveret som et open source-alternativ til ChatGPT, der er i stand til at generere menneskelignende svar, assistere med kodning og løse komplekse problemer – alt sammen billigt(nyt vindue).

Modellen fik international opmærksomhed(nyt vindue) for angiveligt at matche ydeevnen af førende vestlige AI-modeller til en brøkdel af prisen. I januar 2025 havde DeepSeek overgået ChatGPT i downloads fra Apples App Store(nyt vindue), hvilket udløste et globalt frasalg af tech-aktier og rejste bekymringer om de milliarder af dollars, som tech-virksomheder i USA bruger på udvidelsen af energislugende datacentre, en udgift de påstår er afgørende for det næste gennembrud inden for AI.

Men da folk downloadede DeepSeek og delte deres oplevelser med at lege med chatbotten, blev det klart, at brugen af DeepSeek medfører en velkendt afvejning for denne type teknologi: Deres privatliv og sikkerheden af Deres mest følsomme oplysninger.

Alvorlige sikkerhedsbrister

Ny forskning har afsløret, at DeepSeeks sikkerhedspraksis kan være lige så bekymrende som deres datapolitik, hvilket vi vil komme ind på senere.

Den 29. januar 2025 rapporterede cybersikkerhedsfirmaet Wiz(nyt vindue), at DeepSeek ved et uheld havde efterladt over en million linjer med følsomme data eksponeret på det åbne internet. Lækagen inkluderede digitale softwarenøgler, hvilket potentielt kunne give uautoriseret adgang til DeepSeeks systemer, samt chat-logs fra rigtige brugere, som viste de faktiske prompts, der blev givet til chatbotten.

Wiz-forskere sagde, at de fandt databasen næsten øjeblikkeligt med minimal scanning. Inden for 30 minutter efter at Wiz kontaktede DeepSeek, blev databasen låst, men det er uklart, om ondsindede aktører fik adgang til eller downloadede dataene, før de blev sikret. I betragtning af hvor let det var at finde, er det scenarie ret sandsynligt.

Ami Luttwak, teknologidirektør hos Wiz, fortalte Wired(nyt vindue), at lækagen var en “dramatisk fejl”, og advarede om, at DeepSeeks systemer ikke er modne nok “til overhovedet at blive brugt med følsomme data”.

Denne lækage gjorde dog én ting klar: DeepSeek indsamler og gemmer ikke bare enorme mængder brugerdata – det ser også ud til, at de mangler de sikkerhedsforanstaltninger, der er nødvendige for at beskytte dem.

Hvilke data indsamler DeepSeek?

Ifølge deres privatlivspolitik(nyt vindue) indsamler DeepSeek en bred vifte af personlige data, herunder:

  • Profiloplysninger: Brugernavn, e-mail, telefonnummer, adgangskode og fødselsdato.
  • Brugerinput: Alt hvad De skriver eller uploader, inklusive chathistorik, prompts og lydinput.
  • Enheds- og netværksdata: IP-adresse, enhedsmodel, operativsystem, systemsprog og tastetryksmønstre.
  • Brugsdata: Funktioner De bruger, handlinger De foretager, og logs over systemydelse.
  • Cookies og trackere: Web beacons og andre sporingsteknologier til at overvåge brugeradfærd.
  • Tredjepartsdata: Oplysninger fra linkede konti og reklamepartnere, der sporer Deres aktivitet på tværs af websteder, apps og butikker.

DeepSeeks håndtering og opbevaring af disse data på servere i Kina, hvor de er underlagt statslig adgang, har vakt alarm blandt europæiske tilsynsmyndigheder.

DeepSeek er under undersøgelse i Europa

Både Irlands Data Protection Commission (DPC)(nyt vindue) og Italiens Data Protection Authority (DPA)(nyt vindue) har iværksat undersøgelser(nyt vindue) af, hvordan virksomheden indsamler, opbevarer og behandler brugerdata.

Italiens DPA har blokeret adgangen til DeepSeek i landet, efter at virksomheden undlod at give tilstrækkelige oplysninger om sin håndtering af personlige data. Tilsynsmyndigheder ønsker at vide, hvilke data DeepSeek indsamler, hvor de opbevares, og om de overholder EU’s privatlivslove såsom GDPR.

Irlands DPC har også anmodet om detaljer om, hvordan DeepSeek behandler data fra irske brugere. I mellemtiden er DeepSeeks app blevet fjernet fra Apples og Googles app-butikker i Italien, selvom det er uklart, om fjernelsen var frivillig eller håndhævet.

Hvis DeepSeek ikke overholder europæiske privatlivslove, kan de risikere bøder, forbud eller yderligere restriktioner i EU.

DeepSeek er open source, men er det sikkert?

DeepSeek er open source, hvilket betyder, at De kan ændre kode(nyt vindue) på Deres egen app for at skabe en uafhængig – og mere sikker – version. Dette har fået nogle til at håbe, at en mere privatlivsvenlig version af DeepSeek kunne udvikles. Dog medfører brugen af DeepSeek i sin nuværende form – som den eksisterer i dag, hostet i Kina – alvorlige risici for alle, der er bekymrede for deres mest følsomme, private oplysninger.

Enhver model, der er trænet eller opereret på DeepSeeks servere, er stadig underlagt kinesiske datalove, hvilket betyder, at den kinesiske regering til enhver tid kan kræve adgang.

Hvis De leder efter en mere privat AI-oplevelse, er det en bedre løsning at køre modeller lokalt. Værktøjer som LM Studio(nyt vindue) giver Dem mulighed for at downloade og køre AI-modeller direkte på Deres egen enhed, hvilket holder Deres data private.

Selvom DeepSeeks teknologi er lovende, gør deres datapraksis og juridiske forpligtelser den til en alvorlig privatlivs- og sikkerhedsrisiko.

DeepSeek er underlagt Kinas overvågningslove

DeepSeek opererer under Kinas nationale efterretningslov fra 2017(nyt vindue) – en lov, der forpligter alle kinesiske virksomheder til at bistå regeringen i nationale sikkerhedsanliggender. Det betyder, at enhver kinesisk virksomhed, fra TikTok til RedNote til DeepSeek, kan blive tvunget til at dele brugerdata med kinesiske myndigheder(nyt vindue), selv hvis disse data stammer fra brugere i USA eller andre steder.

Denne lov kræver, at alle kinesiske virksomheder skal:

  • Give regeringen adgang til brugerdata efter anmodning
  • Assistere i nationale efterretningsoperationer
  • Forblive hemmelighedsfulde omkring statspålagt datadeling

DeepSeek har intet andet valg end at overholde regeringens krav, uanset om det betyder at udlevere private brugerdata eller at justere deres AI-outputs for at matche statsgodkendte narrativer(nyt vindue).

DeepSeek censurerer allerede information

Alle mainstream AI-chat-apps har politikker for indholdsmoderering, regler og grænser, der hovedsageligt bruges til at forhindre skade – ikke til at kontrollere politiske narrativer. Men det ser ud til, at DeepSeek aktivt omskriver historien og fremmer statsstøttede budskaber.

En medarbejder hos Proton indtastede for eksempel denne prompt i DeepSeek, mens vedkommende ledte efter information om protesterne på Den Himmelske Freds Plads i 1989, en studenterdrevet bevægelse, der transformerede Kinas regering: “Større verdensbegivenheder den 15. april 1989.” DeepSeek begyndte at generere et svar, men slettede det hurtigt og tilbød dette svar i stedet: “Beklager, det ligger uden for mit nuværende anvendelsesområde. Lad os tale om noget andet.”

Ifølge yderligere test foretaget af The Diplomat(nyt vindue), DeepSeek:

  • Nægtede at anerkende større historiske begivenheder: Da den blev spurgt om kulturrevolutionen, opførte den sig, som om begivenheden aldrig var sket.
  • Censur af politisk ubekvemme fakta: Da den blev spurgt om den forfulgte intellektuelle Chu Anping, ignorerede den hans forsvinden og roste i stedet CCP for deres støtte til intellektuelle.
  • Promovering af statspropaganda: Da DeepSeek blev udspurgt om Kinas økonomi, omdirigerede den samtalen mod tillid til regeringens ledelse.
  • Redigerede svar om internationale tvister: Da den blev spurgt, hvem der ejer Spratly-øerne, anerkendte DeepSeek først den territoriale tvist – men slettede derefter sit svar og erstattede det med: “Lad os tale om noget andet.”
  • Undgik direkte svar om globale konflikter: Da DeepSeek blev spurgt, om Ruslands invasion af Ukraine var berettiget, nægtede den at give et ja eller nej-svar, og gentog i stedet Kinas officielle holdning om neutralitet.

Dette er, hvad statsstøttet censur og kontrol med narrativer ser ud som.

Chatbots er kraftfulde værktøjer, men prisen er dit privatliv

Fremkomsten af store sprogmodeller som chatbot-assistenter rejser allerede alvorlige bekymringer vedrørende privatliv og censur, hvor virksomheder som Google og OpenAI bøjer reglerne og indsamler enorme mængder data med minimal gennemsigtighed. Men der er ingen teknisk grund til, at AI behøver at være så invaderende – en privat og sikker AI er mulig, men ingen bygger den.

DeepSeek tager disse bekymringer endnu videre. Ikke alene indsamler den omfattende personlige oplysninger, men den kan heller ikke lovligt modstå regeringens krav om at få adgang til data og manipulation af indhold. I stedet for at designe AI, der respekterer brugerens privatliv, prioriterer disse virksomheder dataindsamling, sporing og uklare moderationspolitikker.

Hos Proton tror vi på privatliv, gennemsigtighed og et internet frit for censur. Uanset om det er AI, sociale medier eller cloud-tjenester, fortjener De at vide, hvem der kontrollerer Deres data, og hvordan de bliver brugt.

Hvis De bekymrer Dem om online privatliv og digital frihed, bør De være påpasselig med, hvilke AI-værktøjer De stoler på – for det er ikke alle, der har Deres bedste interesser for øje.