Å bruke en chatbot betyr å gå gjennom et minefelt av personvern og sensur.

AI-chat-apper som ChatGPT samler inn brukerdata, filtrerer svar og tar beslutninger om innholdsmoderering som ikke alltid er gjennomsiktige. Men DeepSeek – en ny AI-chatbot utviklet i Kina som høster enestående oppmerksomhet som en stor trussel mot(nytt vindu) v(nytt vindu)estlige teknologiselskaper(nytt vindu) – gjør alt dette og mer til.

Faktisk kommer denne chatboten med en enda større risiko: DeepSeek er juridisk forpliktet til å etterkomme den kinesiske regjeringens krav om datatilgang og innholdskontroll, uten noen juridisk mulighet til å motsette seg dette.

Mens myndigheter verden over — inkludert i USA og EU — kan kreve utlevering av data fra teknologiselskaper, har vestlige selskaper rettslige muligheter til å utfordre disse kravene i domstolen. OpenAI, Google og Meta kan for eksempel sette seg imot de fleste urimelige krav fra myndigheter, anke til uavhengige domstoler eller avvise forespørsler som bryter med personvernlover som GDPR. DeepSeek opererer derimot under Kinas nasjonale etterretningslov(nytt vindu), som tvinger selskaper til å samarbeide med myndighetenes etterretningsarbeid uten transparens eller mulighet til å nekte på lovlig vis. Dette betyr at dersom kinesiske myndigheter ønsker tilgang til brukerdata eller å manipulere AI-genererte svar, har ikke DeepSeek noe annet valg enn å etterkomme dette.

Denne artikkelen dykker ned i hva DeepSeek samler inn og hvorfor det betyr noe når det gjelder personvern, sensur og myndighetskontroll.

Hva er DeepSeek?

DeepSeek er et oppstartsselskap eid av High-Flyer, et Kina-basert hedgefond(nytt vindu). Det har blitt promotert som et alternativ med åpen kildekode til ChatGPT, i stand til å generere menneskelignende svar, bistå med koding og løse komplekse problemer – alt gjort billig(nytt vindu).

Modellen fikk internasjonal oppmerksomhet(nytt vindu) for angivelig å matche ytelsen til ledende vestlige AI-modeller til en brøkdel av kostnaden. Innen januar 2025 hadde DeepSeek overgått ChatGPT i nedlastinger fra Apples App Store(nytt vindu), noe som utløste et globalt nedsalg i teknologiasjer og reiste bekymringer om de milliarder av dollar teknologiselskaper i USA kanaliserer inn i utvidelsen av energislukende datasentre, en utgift de hevder er avgjørende for det neste AI-gjennombruddet.

Men etter hvert som folk lastet ned DeepSeek og delte sine erfaringer med å leke med chatboten, ble det klart at bruk av DeepSeek kommer med et velkjent kompromiss for denne teknologiklassen: personvernet ditt og sikkerheten til din mest sensitive informasjon.

Alvorlige sikkerhetsmangler

Ny forskning har avslørt at DeepSeeks sikkerhetspraksis kan være like bekymringsfull som deres retningslinjer for data, noe vi vil komme inn på senere.

Den 29. januar 2025 rapporterte cybersikkerhetsselskapet Wiz(nytt vindu) at DeepSeek ved et uhell hadde etterlatt over en million linjer med sensitive data eksponert på det åpne internettet. Lekkasjen inkluderte digitale programvarenøkler, som potensielt kunne gi uautorisert tilgang til DeepSeeks systemer, og chatlogger fra ekte brukere, som viser de faktiske ledetekstene som ble gitt til chatboten.

Wiz-forskere sa at de fant databasen nesten umiddelbart med minimal skanning. Innen 30 minutter etter at Wiz kontaktet DeepSeek, ble databasen låst, men det er uklart om ondsinnede aktører fikk tilgang til eller lastet ned dataene før de ble sikret. Gitt hvor lett det var å finne, er det scenariet ganske mulig.

Ami Luttwak, teknologidirektør i Wiz, fortalte Wired(nytt vindu) at lekkasjen var en «dramatisk feil», og advarte om at DeepSeeks systemer ikke er modne nok «til å brukes med noen sensitive data i det hele tatt».

Denne lekkasjen gjorde imidlertid én ting klart: DeepSeek samler ikke bare inn og lagrer enorme mengder brukerdata – det ser også ut til å mangle sikkerhetstiltakene som trengs for å beskytte dem.

Hvilke data samler DeepSeek inn?

I henhold til sin personvernerklæring(nytt vindu), samler DeepSeek inn et bredt spekter av personopplysninger, inkludert:

  • Profilinformasjon: Brukernavn, e-post, telefonnummer, passord og fødselsdato.
  • Brukerinndata: Alt du skriver inn eller laster opp, inkludert chathistorikk, ledetekster og lydinndata.
  • Enhets- og nettverksdata: IP-adresse, enhetsmodell, operativsystem, systemspråk og tastetrykksmønstre.
  • Bruksdata: Funksjoner du bruker, handlinger du foretar deg, og logger for systemytelse.
  • Informasjonskapsler og sporere: Web-beacons og andre sporingsteknologier for å overvåke brukeratferd.
  • Tredjepartsdata: Informasjon fra tilknyttede kontoer og annonseringspartnere som sporer aktiviteten din på tvers av nettsteder, apper og butikker.

DeepSeeks håndtering og lagring av disse dataene på tjenere i Kina, hvor de er underlagt myndighetenes tilgang, har vekket bekymring blant europeiske tilsynsmyndigheter.

DeepSeek etterforskes i Europa

Både Irlands datatilsyn (DPC)(nytt vindu) og Italias datatilsyn (DPA)(nytt vindu) har startet etterforskning(nytt vindu) av hvordan selskapet samler inn, lagrer og behandler brukerdata.

Italias DPA har blokkert tilgang til DeepSeek i landet etter at selskapet ikke klarte å gi tilstrekkelig informasjon om sin håndtering av personopplysninger. Tilsynsmyndighetene ønsker å vite hvilke data DeepSeek samler inn, hvor de lagres, og om de overholder EU-personvernlover som GDPR.

Irlands DPC har også bedt om detaljer om hvordan DeepSeek behandler data fra irske brukere. I mellomtiden har DeepSeek-appen blitt fjernet fra Apple og Googles app-butikker i Italia, selv om det er uklart om fjerningen var frivillig eller pålagt.

Hvis DeepSeek ikke klarer å overholde europeiske personvernlover, kan det risikere bøter, forbud eller ytterligere restriksjoner i EU.

DeepSeek er åpen kildekode, men er det trygt?

DeepSeek er åpen kildekode, noe som betyr at du kan endre kode(nytt vindu) på din egen app for å lage en uavhengig — og mer sikker — versjon. Dette har ført til at noen håper at en mer personvernvennlig versjon av DeepSeek kan utvikles. Imidlertid innebærer bruk av DeepSeek i sin nåværende form — slik den eksisterer i dag, driftet i Kina — alvorlig risiko for alle som er bekymret for sin mest sensitive, private informasjon.

Enhver modell trent eller operert på DeepSeeks tjenere er fremdeles underlagt kinesiske datalover, noe som betyr at kinesiske myndigheter kan kreve tilgang når som helst.

Hvis du ser etter en mer privat AI-opplevelse, er det et bedre alternativ å kjøre modeller lokalt. Verktøy som LM Studio(nytt vindu) lar deg laste ned og kjøre AI-modeller direkte på din egen enhet, noe som holder dataene dine private.

Selv om DeepSeeks teknologi er lovende, gjør datapraksisen og de juridiske forpliktelsene den til en alvorlig personvern- og sikkerhetsrisiko.

DeepSeek er underlagt Kinas overvåkingslover

DeepSeek opererer under Kinas nasjonale etterretningslov fra 2017(nytt vindu) — en lov som pålegger alle kinesiske selskaper å bistå myndighetene i saker angående nasjonal sikkerhet. Dette betyr at ethvert kinesisk selskap, fra TikTok til RedNote og DeepSeek, kan bli tvunget til å dele brukerdata med kinesiske myndigheter(nytt vindu) selv om dataene kommer fra brukere i USA eller andre steder.

Denne loven krever at alle kinesiske selskaper må:

  • Gi myndighetene tilgang til brukerdata på forespørsel
  • Bistå i nasjonale etterretningsoperasjoner
  • Forbli hemmelighetsfulle om statlig pålagt datadeling

DeepSeek har ikke noe annet valg enn å overholde myndighetenes krav, enten det betyr å overlevere private brukerdata eller justere AI-utdataene for å matche statsgodkjente narrativer(nytt vindu).

DeepSeek sensurerer allerede informasjon

Alle vanlige AI-chat-apper har retningslinjer for innholdsmoderering, regler og grenser som hovedsakelig brukes for å forhindre skade — ikke kontrollere politiske narrativer. Men det ser ut til at DeepSeek aktivt omskriver historie og presser gjennom statsgodkjente meldinger.

En Proton-ansatt skrev for eksempel denne ledeteksten inn i DeepSeek, på jakt etter informasjon om protestene på Den himmelske freds plass i 1989, en studentledet bevegelse som forandret Kinas styresett: «Viktige verdenshendelser 15. april 1989». DeepSeek begynte å generere et svar, men slettet det raskt, og tilbød dette svaret i stedet: «Beklager, det er utenfor mitt nåværende omfang. La oss snakke om noe annet.»

Ifølge videre testing av The Diplomat(nytt vindu), DeepSeek:

  • Nektet å anerkjenne store historiske hendelser: Da den ble spurt om kulturrevolusjonen, oppførte den seg som om hendelsen aldri hadde skjedd.
  • Sensurerte politisk upraktiske fakta: Da den ble spurt om den forfulgte intellektuelle Chu Anping, ignorerte den forsvinningen hans og roste i stedet CCP for deres støtte til intellektuelle.
  • Fremmet statlig propaganda: Da DeepSeek ble spurt om Kinas økonomi, omdirigerte den samtalen mot tillit til myndighetenes ledelse.
  • Redigerte svar om internasjonale konflikter: Da DeepSeek ble spurt om hvem som eier Spratlyøyene, anerkjente den først den territoriale tvisten – men slettet deretter svaret og erstattet det med: «La oss snakke om noe annet.»
  • Unngikk direkte svar om globale konflikter: Da DeepSeek ble spurt om Russlands invasjon av Ukraina var rettferdiggjort, nektet den å gi et ja eller nei-svar, og gjentok i stedet Kinas offisielle nøytrale holdning.

Dette er hva statlig sensur og narrativ kontroll ser ut som.

Chatboter er kraftige verktøy, men kompromisset er personvernet ditt

Fremveksten av store språkmodeller som chatbot-assistenter reiser allerede alvorlige bekymringer for personvern og sensur, der selskaper som OpenAI og Google bøyer regler og samler inn enorme mengder data med liten gjennomsiktighet. Men det er ingen teknisk grunn til at kunstig intelligens må være så invaderende – en privat og sikker AI er mulig, men ingen bygger den.

DeepSeek tar disse bekymringene enda lenger. Ikke bare samler den inn omfattende personopplysninger, men den kan heller ikke lovlig motsette seg myndighetenes krav om tilgang til data og manipulering av innhold. I stedet for å designe AI som respekterer brukerens personvern, prioriterer disse selskapene datainnsamling, sporing og ugjennomsiktige retningslinjer for moderering.

Hos Proton tror vi på personvern, gjennomsiktighet og et internett fritt for sensur. Enten det er AI, sosiale medier eller skytjenester, fortjener du å vite hvem som kontrollerer dataene dine og hvordan de blir brukt.

Hvis du bryr deg om personvern på nett og digital frihet, bør du være forsiktig med hvilke AI-verktøy du stoler på – for ikke alle har dine beste interesser i tankene.