Att använda en chattbot innebär att gå igenom ett minfält av integritet och censur.

AI-chattappar som ChatGPT samlar in användardata, filtrerar svar och fattar beslut om innehållsmoderering som inte alltid är transparenta. Men DeepSeek – en ny AI-chattbot utvecklad i Kina som får oöverträffad uppmärksamhet som ett stort hot mot (nytt fönster)västerländska(nytt fönster) teknikföretag(nytt fönster) – gör allt detta och mer.

Faktum är att denna chattbot innebär en ännu större risk: DeepSeek är juridiskt skyldigt att följa den kinesiska regeringens krav på att få åtkomst till data och kontrollera innehåll, utan någon juridisk möjlighet att göra motstånd.

Medan regeringar världen över – inklusive USA och EU – kan stämma teknikföretag för att få ut data, har västerländska företag juridiska vägar att utmana dessa förfrågningar i domstol. OpenAI, Google och Meta kan till exempel motsätta sig de flesta överdrivna myndighetskrav, överklaga i oberoende domstolar eller neka förfrågningar som bryter mot integritetslagar som GDPR. DeepSeek verkar dock under Kinas nationella underrättelselag(nytt fönster), som tvingar företag att samarbeta med statliga underrättelseinsatser utan transparens eller möjlighet att juridiskt neka. Detta innebär att om den kinesiska regeringen vill få åtkomst till användardata eller manipulera AI-genererade svar, har DeepSeek inget annat val än att följa kraven.

Denna artikel fördjupar sig i vad DeepSeek faktiskt samlar in och varför det är viktigt när det kommer till din integritet, censur och statlig kontroll.

Vad är DeepSeek?

DeepSeek är en AI-startup som ägs av High-Flyer, en Kinabaserad hedgefond(nytt fönster). Den har marknadsförts som ett alternativ med öppen källkod till ChatGPT, kapabel att generera människoliknande svar, assistera vid programmering och lösa komplexa problem — allt till en billig peng(nytt fönster).

Modellen fick internationell uppmärksamhet(nytt fönster) för att påstås matcha prestandan hos ledande västerländska AI-modeller till en bråkdel av kostnaden. I januari 2025 hade DeepSeek gått om ChatGPT i nedladdningar från Apples App Store(nytt fönster), vilket utlöste en global utförsäljning av teknikaktier och väckte farhågor om de miljarder dollar som teknikföretag i USA satsar på expansion av energislukande datacenter, utgifter de hävdar är avgörande för nästa AI-genombrott.

Men i takt med att folk laddade ner DeepSeek och delade sina erfarenheter av att använda chatboten, blev det tydligt att användningen av DeepSeek kommer med en välkänd kompromiss för denna typ av teknik: din integritet och säkerheten för din mest känsliga information.

Djupa säkerhetsbrister

Ny forskning har avslöjat att DeepSeeks säkerhetsrutiner kan vara lika oroande som dess datapolicys, vilket vi kommer att gå in på senare.

Den 29 januari 2025 rapporterade cybersäkerhetsföretaget Wiz(nytt fönster) att DeepSeek av misstag hade lämnat över en miljon rader känslig data exponerad på det öppna internet. Läckan inkluderade digitala programvarunycklar, vilka potentiellt skulle kunna ge obehöriga att få åtkomst till DeepSeeks system, samt chattloggar från riktiga användare, som visar de faktiska instruktioner som getts till chatboten.

Wiz-forskare uppgav att de hittade databasen nästan omedelbart med minimal skanning. Inom 30 minuter efter att Wiz kontaktat DeepSeek låstes databasen, men det är oklart om illasinnade aktörer fick åtkomst till eller laddade ner datan innan den säkrades. Med tanke på hur lätt det var att hitta den är det scenariot fullt möjligt.

Ami Luttwak, teknikchef på Wiz, berättade för Wired(nytt fönster) att läckan var ett “dramatiskt misstag” och varnade för att DeepSeeks system inte är tillräckligt mogna “för att användas med någon känslig data överhuvudtaget.”

Denna läcka gjorde dock minst en sak tydlig: DeepSeek samlar inte bara in och lagrar enorma mängder användardata – det verkar också sakna de säkerhetsåtgärder som krävs för att skydda den.

Vilken data samlar DeepSeek in?

Enligt dess integritetspolicy(nytt fönster) samlar DeepSeek in ett brett utbud av personuppgifter, inklusive:

  • Profilinformation: Användarnamn, e-post, telefonnummer, lösenord och födelsedatum.
  • Användarinput: Allt du skriver eller laddar upp, inklusive chatthistorik, instruktioner och ljudinput.
  • Enhets- och nätverksdata: IP-adress, enhetsmodell, operativsystem, systemets språk och mönster för tangenttryckningar.
  • Användningsdata: Funktioner du använder, åtgärder du vidtar och loggar över systemprestanda.
  • Cookies och spårare: Webb-beacons och annan spårningsteknik för att övervaka användarbeteende.
  • Tredjepartsdata: Information från länkade konton och annonspartners som spårar din aktivitet över webbplatser, appar och butiker.

DeepSeeks hantering och lagring av denna data på servrar i Kina, där den kan få åtkomst till av regeringen, har väckt larm bland europeiska tillsynsmyndigheter.

DeepSeek är under utredning i Europa

Både Irlands dataskyddskommission (DPC)(nytt fönster) och Italiens dataskyddsmyndighet (DPA)(nytt fönster) har inlett utredningar(nytt fönster) om hur företaget samlar in, lagrar och behandlar användardata.

Italiens DPA har blockerat att få åtkomst till DeepSeek i landet efter att företaget misslyckats med att ge tillräcklig information om sin hantering av personuppgifter. Tillsynsmyndigheter vill veta vilken data DeepSeek samlar in, var den är lagrad och om den följer EU:s integritetslagar som GDPR.

Irlands DPC har också begärt detaljer om hur DeepSeek behandlar data från irländska användare. Samtidigt har DeepSeeks app tagits bort från Apples och Googles appbutiker i Italien, även om det är oklart om borttagningen var frivillig eller tvingad.

Om DeepSeek misslyckas med att följa europeiska integritetslagar kan det möta böter, förbud eller ytterligare restriktioner inom EU.

DeepSeek har öppen källkod, men är det säkert?

DeepSeek har öppen källkod, vilket innebär att du kan ändra kod(nytt fönster) på din egen app för att skapa en oberoende – och säkrare – version. Detta har lett till att vissa hoppas på att en mer integritetsvänlig version av DeepSeek skulle kunna utvecklas. Att använda DeepSeek i sin nuvarande form – så som den existerar idag, värd i Kina – innebär dock allvarliga risker för alla som är bekymrade över sin mest känsliga, privata information.

Varje modell som tränas eller körs på DeepSeeks servrar omfattas fortfarande av kinesisk datalagstiftning, vilket innebär att den kinesiska regeringen kan kräva att få åtkomst till när som helst.

Om du letar efter en mer privat AI-upplevelse är det ett bättre alternativ att köra modeller lokalt. Verktyg som LM Studio(nytt fönster) låter dig ladda ner och köra AI-modeller direkt på din egen enhet, vilket håller din data privat.

Även om DeepSeeks teknik är lovande, gör dess datapraxis och juridiska förpliktelser den till en allvarlig risk för integritet och säkerhet.

DeepSeek omfattas av Kinas övervakningslagar

DeepSeek verkar under Kinas nationella underrättelselag från 2017(nytt fönster) – en lag som tvingar alla kinesiska företag att bistå regeringen i frågor som rör nationell säkerhet. Detta innebär att alla kinesiska företag, från TikTok till RedNote till DeepSeek, kan tvingas dela användardata med kinesiska myndigheter(nytt fönster) även om datan kommer från användare i USA eller på annat håll.

Denna lag kräver att alla kinesiska företag:

  • Ger regeringen att få åtkomst till användardata på begäran
  • Bistår i nationella underrättelseoperationer
  • Förblir hemlighetsfulla angående statligt påbjuden datadelning

DeepSeek har inget annat val än att följa statliga krav, oavsett om det innebär att lämna ut privat användardata eller att justera sina AI-utdata för att matcha statsgodkända narrativ(nytt fönster).

DeepSeek censurerar redan information

Alla vanliga AI-chattappar har policys för innehållsmoderering, regler och gränser som främst används för att förhindra skada – inte kontrollera politiska narrativ. Men det verkar som att DeepSeek aktivt skriver om historien och sprider statsgodkända budskap.

En Proton-anställd skrev till exempel denna prompt i DeepSeek, i sökande efter information om protesterna på Himmelska fridens torg 1989, en studentledd rörelse som förändrade Kinas regering: “Stora världshändelser den 15 april 1989.” DeepSeek började generera ett svar, men raderade det snabbt och erbjöd istället detta svar: “Tyvärr, det ligger utanför min nuvarande omfattning. Låt oss prata om något annat.”

Enligt ytterligare tester utförda av The Diplomat(nytt fönster):

  • Vägrade erkänna större historiska händelser: När den fick frågor om kulturrevolutionen agerade den som om händelsen aldrig ägt rum.
  • Censurerade politiskt obekväma fakta: När den fick frågor om den förföljde intellektuelle Chu Anping ignorerade den hans försvinnande och prisade istället det kinesiska kommunistpartiet för dess stöd till intellektuella.
  • Främjade statlig propaganda: När DeepSeek fick frågor om Kinas ekonomi styrde den om konversationen mot förtroende för regeringen.
  • Redigerade svar om internationella tvister: När DeepSeek fick frågan om vem som äger Spratlyöarna erkände den först den territoriella tvisten – men raderade sedan sitt svar och ersatte det med: “Låt oss tala om något annat.”
  • Undvek direkta svar om globala konflikter: När DeepSeek fick frågan om huruvida Rysslands invasion av Ukraina var rättfärdigad vägrade den att ge ett ja- eller nej-svar och upprepade istället Kinas officiella hållning om neutralitet.

Det här är vad statligt påtvingad censur och kontroll av narrativ innebär.

Chatbottar är kraftfulla verktyg, men priset du får betala är din integritet

Framväxten av stora språkmodeller som chatbot-assistenter väcker redan allvarliga frågor gällande integritet och censur, där företag som OpenAI och Google böjer regler och samlar in enorma mängder data med liten transparens. Men det finns ingen teknisk anledning till att AI måste vara så integritetskränkande — en privat och säker AI är möjlig, men ingen bygger den.

DeepSeek tar dessa problem ännu längre. Den samlar inte bara in omfattande personlig information, utan den kan inte heller lagligt motstå statliga krav på att få åtkomst till data och innehållsmanipulering. Istället för att utforma AI som respekterar användarnas integritet prioriterar dessa företag datainsamling, spårning och ogenomskinliga modereringspolicyer.

På Proton tror vi på integritet, transparens och ett internet fritt från censur. Oavsett om det gäller AI, sociala medier eller molntjänster förtjänar du att veta vem som kontrollerar din data och hur den används.

Om du bryr dig om integritet online och digital frihet, var försiktig med vilka AI-verktyg du litar på – för det är inte alla som har dina bästa intressen i åtanke.