Het gebruik van een chatbot betekent dat u door een mijnenveld van privacy en censuur loopt.

AI-chat-apps zoals ChatGPT verzamelen gebruikersgegevens, filteren antwoorden en nemen beslissingen over inhoudsmoderatie die niet altijd transparant zijn. Maar DeepSeek — een nieuwe AI-chatbot ontwikkeld in China die ongekende aandacht trekt als een grote bedreiging voor (nieuw venster)w(nieuw venster)esterse techbedrijven(nieuw venster) — doet dat alles en nog veel meer.

Sterker nog, deze chatbot brengt een nog groter risico met zich mee: DeepSeek is wettelijk verplicht om te voldoen aan verzoeken van de Chinese overheid voor gegevenstoegang en inhoudscontrole, zonder enige juridische mogelijkheid om dit te weigeren.

Hoewel overheden wereldwijd — inclusief de VS en de EU — gegevens van technologiebedrijven kunnen vorderen, hebben westerse bedrijven juridische middelen om deze verzoeken bij de rechter aan te vechten. OpenAI, Google en Meta kunnen bijvoorbeeld weerstand bieden tegen de meeste buitensporige eisen van de overheid, in beroep gaan bij onafhankelijke rechtbanken of verzoeken weigeren die in strijd zijn met privacywetgeving zoals de GDPR. DeepSeek opereert echter onder de Chinese nationale inlichtingenwet(nieuw venster), die bedrijven dwingt om mee te werken aan inlichtingenactiviteiten van de overheid zonder transparantie of de mogelijkheid om juridisch te weigeren. Dit betekent dat als de Chinese overheid toegang wil tot gegevens van de gebruiker of AI-gegenereerde antwoorden wil manipuleren, DeepSeek geen andere keuze heeft dan daaraan te voldoen.

Dit artikel gaat dieper in op wat DeepSeek precies verzamelt en waarom dit relevant is voor uw privacy, censuur en overheidscontrole.

Wat is DeepSeek?

DeepSeek is een AI-startup die eigendom is van High-Flyer, een in China gevestigd hedgefonds(nieuw venster). Het wordt gepromoot als een open-source alternatief voor ChatGPT, dat in staat is menselijke reacties te genereren, te helpen bij het programmeren en complexe problemen op te lossen — en dat alles tegen lage kosten(nieuw venster).

Het model trok internationale aandacht(nieuw venster) omdat het naar verluidt de prestaties van toonaangevende westerse AI-modellen evenaart tegen een fractie van de kosten. Tegen januari 2025 had DeepSeek ChatGPT ingehaald wat betreft downloads in de App Store van Apple(nieuw venster). Dit veroorzaakte een wereldwijde verkoopgolf van tech-aandelen en riep zorgen op over de miljarden dollars die techbedrijven in de VS steken in de uitbreiding van energieverslindende datacentra; uitgaven die volgens hen essentieel zijn voor de volgende AI-doorbraak.

Maar toen mensen DeepSeek gingen downloaden en hun ervaringen met de chatbot gingen delen, werd duidelijk dat het gebruik van DeepSeek gepaard gaat met een bekende afruil voor dit type technologie: uw privacy en de veiligheid van uw meest gevoelige informatie.

Ernstige beveiligingslekken

Nieuw onderzoek heeft aan het licht gebracht dat de beveiligingspraktijken van DeepSeek mogelijk net zo zorgwekkend zijn als het databeleid, waar we later op terugkomen.

Op 29 januari 2025 rapporteerde het cyberbeveiligingsbedrijf Wiz(nieuw venster) dat DeepSeek per ongeluk meer dan een miljoen regels gevoelige data onbeschermd op het open internet had laten staan. Het lek bevatte digitale softwaresleutels, die mogelijk ongeautoriseerde toegang tot de systemen van DeepSeek konden verschaffen, en chatlogboeken van echte gebruikers, die de werkelijke prompts toonden die aan de chatbot waren gegeven.

Onderzoekers van Wiz zeiden dat ze de database bijna onmiddellijk vonden met minimale scaninspanningen. Binnen 30 minuten nadat Wiz contact had opgenomen met DeepSeek, werd de database afgesloten, maar het is onduidelijk of kwaadwillenden de gegevens hebben benaderd of gedownload voordat deze werd beveiligd. Gezien het gemak waarmee deze gevonden kon worden, is dat scenario zeer goed mogelijk.

Ami Luttwak, de chief technology officer van Wiz, vertelde Wired(nieuw venster) dat het lek een “dramatische fout” was en waarschuwde dat de systemen van DeepSeek niet volwassen genoeg zijn “om überhaupt met gevoelige gegevens te worden gebruikt.”

Dit lek maakte echter één ding duidelijk: DeepSeek verzamelt en bewaart niet alleen enorme hoeveelheden gebruikersgegevens — het lijkt ook te ontbreken aan de nodige beveiligingsmaatregelen om deze te beschermen.

Welke gegevens verzamelt DeepSeek?

Volgens het privacybeleid(nieuw venster) verzamelt DeepSeek een breed scala aan persoonsgegevens, waaronder:

  • Profielinformatie: Gebruikersnaam, e-mailadres, telefoonnummer, wachtwoord en geboortedatum.
  • Gebruikersinvoer: Alles wat u typt of uploadt, inclusief chatgeschiedenis, prompts en audio-invoer.
  • Apparaat- en netwerkgegevens: IP-adres, apparaatmodel, besturingssysteem, systeemtaal en toetsaanslagpatronen.
  • Gebruiksgegevens: Functies die u gebruikt, acties die u onderneemt en logboeken over systeemprestaties.
  • Cookies en trackers: Web beacons en andere trackingtechnologieën om gebruikersgedrag te monitoren.
  • Gegevens van derden: Informatie van gekoppelde accounts en advertentiepartners die uw activiteit op websites, apps en winkels volgen.

De manier waarop DeepSeek deze gegevens verwerkt en opslaat op servers in China, waar deze onderworpen zijn aan overheids-toegang, heeft tot ongerustheid geleid bij Europese toezichthouders.

DeepSeek wordt in Europa onderzocht

Zowel de Ierse Data Protection Commission (DPC)(nieuw venster) als de Italiaanse gegevensbeschermingsautoriteit (DPA)(nieuw venster) hebben onderzoeken ingesteld(nieuw venster) naar hoe het bedrijf gebruikersgegevens verzamelt, opslaat en verwerkt.

De Italiaanse DPA heeft de toegang tot DeepSeek in het land geblokkeerd nadat het bedrijf er niet in slaagde voldoende informatie te verstrekken over de omgang met persoonsgegevens. Toezichthouders willen weten welke gegevens DeepSeek verzamelt, waar deze worden opgeslagen en of dit voldoet aan EU-privacywetten zoals de GDPR.

De Ierse DPC heeft ook nadere gegevens opgevraagd over hoe DeepSeek gegevens van Ierse gebruikers verwerkt. Ondertussen is de app van DeepSeek verwijderd uit de app stores van Apple en Google in Italië, hoewel het onduidelijk is of deze verwijdering vrijwillig of afgedwongen was.

Indien DeepSeek niet voldoet aan de Europese privacywetgeving, kan het bedrijf te maken krijgen met boetes, verboden of verdere beperkingen in de EU.

DeepSeek is open source, maar is het veilig?

DeepSeek is open source, wat betekent dat u de code op uw eigen app kunt aanpassen(nieuw venster) om een onafhankelijke — en veiligere — versie te creëren. Dit heeft ertoe geleid dat sommigen hopen dat er een privacyvriendelijkere versie van DeepSeek kan worden ontwikkeld. Echter, het gebruik van DeepSeek in zijn huidige vorm — zoals het er vandaag de dag bestaat, gehost in China — brengt ernstige risico’s met zich mee voor iedereen die zich zorgen maakt over zijn meest gevoelige, privégegevens.

Elk model dat wordt getraind of beheerd op de servers van DeepSeek is nog steeds onderworpen aan de Chinese datawetgeving, wat betekent dat de Chinese overheid op elk gewenst moment toegang kan eisen.

Als u op zoek bent naar een meer private AI-ervaring, is het lokaal draaien van modellen een betere optie. Tools zoals LM Studio(nieuw venster) stellen u in staat om AI-modellen direct op uw eigen apparaat te downloaden en uit te voeren, waardoor uw gegevens privé blijven.

Zelfs als de technologie van DeepSeek veelbelovend is, maken de datapraktijken en wettelijke verplichtingen ervan een ernstig privacy- en veiligheidsrisico.

DeepSeek is onderwerp van de Chinese surveillancewetgeving

DeepSeek opereert onder de Chinese Nationale Inlichtingenwet van 2017(nieuw venster) — een statuut dat alle Chinese bedrijven verplicht om de overheid bij te staan bij nationale veiligheidskwesties. Dit betekent dat elk Chinees bedrijf, van TikTok tot RedNote tot DeepSeek, gedwongen kan worden om gebruikersgegevens te delen met de Chinese autoriteiten(nieuw venster), zelfs als die gegevens afkomstig zijn van gebruikers in de Verenigde Staten of elders.

Deze wet vereist dat alle Chinese bedrijven:

  • De overheid op verzoek toegang geven tot gebruikersgegevens
  • Assisteren bij nationale inlichtingenoperaties
  • Geheimhouding bewaren over het door de staat verplichte delen van gegevens

DeepSeek heeft geen andere keuze dan te voldoen aan overheidseisen, of dat nu betekent dat privégegevens van gebruikers moeten worden overhandigd of dat de AI-output moet worden aangepast aan door de staat goedgekeurde verhalen(nieuw venster).

DeepSeek censureert nu al informatie

Alle reguliere AI-chat-apps hebben inhoudsbeleid, regels en kaders die vooral worden gebruikt om schade te voorkomen — niet om politieke verhalen te controleren. Maar het lijkt erop dat DeepSeek actief de geschiedenis herschrijft en door de overheid goedgekeurde boodschappen pusht.

Een medewerker van Proton typte bijvoorbeeld deze prompt in DeepSeek, op zoek naar informatie over de protesten op het Tiananmenplein in 1989, een studentenbeweging die de regering van China veranderde: “Belangrijke wereldgebeurtenissen op 15 april 1989.” DeepSeek begon een antwoord te genereren, maar wist het snel en bood dit antwoord in plaats daarvan aan: “Sorry, dat valt buiten mijn huidige bereik. Laten we het over iets anders hebben.”

Volgens verder onderzoek door The Diplomat(nieuw venster), DeepSeek:

  • Weigerde grote historische gebeurtenissen te erkennen: Toen er naar de Culturele Revolutie werd gevraagd, deed het alsof de gebeurtenis nooit heeft plaatsgevonden.
  • Gecensureerde politiek ongemakkelijke feiten: Toen werd gevraagd naar de vervolgde intellectueel Chu Anping, negeerde het zijn verdwijning en prees het in plaats daarvan de CCP voor haar ondersteuning van intellectuelen.
  • Gepromote staatspropaganda: Toen DeepSeek vragen kreeg over de economie van China, stuurde het het gesprek richting vertrouwen in het regeringsleiderschap.
  • Bewerkte antwoorden over internationale geschillen: Toen werd gevraagd wie de Spratly-eilanden bezit, erkende DeepSeek eerst het territoriale geschil — maar wiste vervolgens het antwoord en verving dit door: “Laten we het over iets anders hebben.”
  • Vermeed directe antwoorden over wereldwijde conflicten: Toen werd gevraagd of de invasie van Oekraïne door Rusland gerechtvaardigd was, weigerde DeepSeek een ja- of nee-antwoord te geven en herhaalde in plaats daarvan het officiële neutraliteitsstandpunt van China.

Dit is hoe door de staat opgelegde censuur en narratieve controle eruitziet.

Chatbots zijn krachtige hulpmiddelen, maar de keerzijde is uw privacy

De opkomst van grote taalmodellen als chatbot-assistenten roept nu al ernstige zorgen op over privacy en censuur, waarbij bedrijven als OpenAI en Google regels buigen en enorme hoeveelheden gegevens verzamelen met weinig transparantie. Maar er is geen technische reden waarom AI zo invasief moet zijn — een privé en veilige AI is mogelijk, maar niemand bouwt het.

DeepSeek gaat nog een stap verder met deze zorgen. Het verzamelt niet alleen uitgebreide persoonlijke informatie, maar het kan ook niet wettelijk weerstand bieden aan verzoeken van de overheid om toegang tot gegevens en manipulatie van inhoud. In plaats van AI te ontwerpen die de privacy van de gebruiker respecteert, geven deze bedrijven prioriteit aan het verzamelen van gegevens, tracking en ondoorzichtig beleid voor moderatie.

Bij Proton geloven we in privacy, transparantie en een internet vrij van censuur. Of het nu gaat om AI, sociale media of cloud-services, u verdient het om te weten wie uw gegevens beheert en hoe deze worden gebruikt.

Als u geeft om online privacy en digitale vrijheid, wees dan voorzichtig met welke AI-tools u vertrouwt — want niet allemaal hebben ze uw beste belangen voor ogen.