Usar un chatbot significa caminar por un campo de minas de privacidad y censura.

Las aplicaciones de chat de IA como ChatGPT recopilan datos de usuarios, filtran respuestas y toman decisiones de moderación de contenido que no siempre son transparentes. Pero DeepSeek, un nuevo chatbot de IA desarrollado en China que está atrayendo una atención sin precedentes como una amenaza importante para (ventana nueva)las(ventana nueva) empresas tecnológicas occidentales(ventana nueva), hace todo eso y más.

De hecho, este chatbot conlleva un riesgo aún mayor: DeepSeek tiene la obligación legal de cumplir con las exigencias del gobierno chino de acceder a datos y controlar el contenido, sin que exista ningún recurso legal para resistirse.

Aunque los gobiernos de todo el mundo, incluidos los de EE. UU. y la UE, pueden solicitar datos a las empresas tecnológicas, las compañías occidentales cuentan con vías legales para impugnar estas solicitudes en los tribunales. OpenAI, Google y Meta, por ejemplo, pueden oponerse a la mayoría de las demandas gubernamentales excesivas, apelar ante tribunales independientes o rechazar solicitudes que infrinjan leyes de privacidad como el GDPR. Sin embargo, DeepSeek opera bajo la Ley de Inteligencia Nacional de China(ventana nueva), que obliga a las empresas a cooperar con las iniciativas de inteligencia del gobierno sin transparencia y sin posibilidad de negarse legalmente. Esto significa que si el gobierno chino quiere acceder a los datos de los usuarios o manipular las respuestas generadas por la IA, DeepSeek no tiene más remedio que cumplir.

Este artículo analiza qué recopila exactamente DeepSeek y por qué es importante para tu privacidad, la censura y el control gubernamental.

¿Qué es DeepSeek?

DeepSeek es una startup de IA propiedad de High-Flyer, un fondo de cobertura con sede en China(ventana nueva). Se ha promocionado como una alternativa de código abierto a ChatGPT, capaz de generar respuestas similares a las humanas, ayudar con la programación y resolver problemas complejos, todo ello a bajo coste(ventana nueva).

El modelo captó atención internacional(ventana nueva) por supuestamente igualar el rendimiento de los modelos de IA occidentales líderes a una fracción del costo. En enero de 2025, DeepSeek había superado a ChatGPT en descargas desde la App Store de Apple(ventana nueva), lo que provocó una venta masiva mundial de acciones tecnológicas y generó preocupación sobre los miles de millones de dólares que las empresas tecnológicas en EE. UU. están invirtiendo en la expansión de centros de datos que consumen mucha energía, un gasto que consideran vital para el próximo avance de la IA.

Pero a medida que las personas descargaron DeepSeek y compartieron sus experiencias jugando con el chatbot, quedó claro que utilizar DeepSeek conlleva un compromiso familiar para esta clase de tecnología: tu privacidad y la seguridad de tu información más confidencial.

Graves fallos de seguridad

Nuevas investigaciones han revelado que las prácticas de seguridad de DeepSeek pueden ser tan preocupantes como sus políticas de datos, de las que hablaremos más adelante.

El 29 de enero de 2025, la firma de ciberseguridad Wiz informó(ventana nueva) que DeepSeek había dejado accidentalmente expuestas más de un millón de líneas de datos confidenciales en la internet abierta. La filtración incluía claves de software digital, que podrían permitir el acceso no autorizado a los sistemas de DeepSeek, y registros de chat de usuarios reales, que mostraban las consultas reales realizadas al chatbot.

Los investigadores de Wiz dijeron que encontraron la base de datos casi de inmediato con un escaneo mínimo. En los 30 minutos siguientes a que Wiz contactara a DeepSeek, la base de datos fue bloqueada, pero no está claro si personas malintencionadas accedieron o descargaron los datos antes de que se aseguraran. Dada la facilidad con la que se encontraron, ese escenario es bastante posible.

Ami Luttwak, director de tecnología de Wiz, dijo a Wired(ventana nueva) que la filtración fue un “error dramático”, advirtiendo que los sistemas de DeepSeek no son lo suficientemente maduros “para utilizarse con ningún tipo de datos confidenciales”.

Esta filtración, sin embargo, dejó clara al menos una cosa: DeepSeek no solo recopila y almacena grandes cantidades de datos de usuario; también parece carecer de las medidas de seguridad necesarias para protegerlos.

¿Qué datos recopila DeepSeek?

Según su política de privacidad(ventana nueva), DeepSeek recopila una amplia gama de datos personales, incluyendo:

  • Información de perfil: nombre de usuario, correo electrónico, número de teléfono, contraseña y fecha de nacimiento.
  • Entrada del usuario: todo lo que escribes o cargas, incluido el historial de chat, las consultas y la entrada de audio.
  • Datos de dispositivo y red: dirección IP, modelo de dispositivo, sistema operativo, idioma del sistema y patrones de pulsación de teclas.
  • Datos de uso: funciones que utilizas, acciones que realizas y registros de rendimiento del sistema.
  • Cookies y rastreadores: balizas web y otras tecnologías de seguimiento para monitorear el comportamiento del usuario.
  • Datos de terceros: información de cuentas vinculadas y socios publicitarios que rastrean tu actividad en sitios web, aplicaciones y tiendas.

El manejo y almacenamiento de estos datos por parte de DeepSeek en servidores en China, donde está sujeto al acceso gubernamental, ha hecho saltar las alarmas entre los reguladores europeos.

DeepSeek está siendo investigado en Europa

Tanto la Comisión de Protección de Datos (DPC) de Irlanda(ventana nueva) como la Autoridad de Protección de Datos (DPA) de Italia(ventana nueva) han lanzado investigaciones(ventana nueva) sobre cómo la empresa recopila, almacena y procesa los datos de los usuarios.

La DPA de Italia ha bloqueado el acceso a DeepSeek en el país después de que la empresa no proporcionara información suficiente sobre su manejo de los datos personales. Los reguladores quieren saber qué datos recopila DeepSeek, dónde se almacenan y si cumple con las leyes de privacidad de la UE como el GDPR.

La DPC de Irlanda también ha solicitado detalles sobre cómo DeepSeek procesa los datos de los usuarios irlandeses. Mientras tanto, la aplicación de DeepSeek ha sido eliminada de las tiendas de aplicaciones de Apple y Google en Italia, aunque no está claro si la eliminación fue voluntaria o forzada.

Si DeepSeek no cumple con las leyes de privacidad europeas, podría enfrentarse a multas, prohibiciones u otras restricciones en la UE.

DeepSeek es de código abierto, pero ¿es seguro?

DeepSeek es de código abierto, lo que significa que puedes modificar el código(ventana nueva) en tu propia aplicación para crear una versión independiente y más segura. Esto ha llevado a algunos a esperar que se pueda desarrollar una versión de DeepSeek más respetuosa con la privacidad. Sin embargo, utilizar DeepSeek en su forma actual —tal y como existe hoy, alojado en China— conlleva graves riesgos para cualquier persona preocupada por su información privada más confidencial.

Cualquier modelo entrenado u operado en los servidores de DeepSeek sigue estando sujeto a las leyes de datos chinas, lo que significa que el gobierno chino puede exigir acceso en cualquier momento.

Si buscas una experiencia de IA más privada, ejecutar modelos localmente es una mejor opción. Herramientas como LM Studio(ventana nueva) te permiten descargar y ejecutar modelos de IA directamente en tu propio dispositivo, manteniendo tus datos privados.

Incluso si la tecnología de DeepSeek es prometedora, sus prácticas de datos y sus obligaciones legales lo convierten en un grave riesgo para la privacidad y la seguridad.

DeepSeek está sujeto a las leyes de vigilancia de China

DeepSeek opera bajo la Ley de Inteligencia Nacional de 2017 de China(ventana nueva), un estatuto que obliga a todas las empresas chinas a ayudar al gobierno en asuntos de seguridad nacional. Esto significa que cualquier empresa china, desde TikTok hasta RedNote, pasando por DeepSeek, puede ser obligada a compartir los datos de los usuarios con las autoridades chinas(ventana nueva), incluso si dichos datos provienen de usuarios en Estados Unidos o en cualquier otro lugar.

Esta ley exige que todas las empresas chinas:

  • Den al gobierno acceso a los datos de los usuarios cuando lo solicite
  • Ayuden en operaciones de inteligencia nacional
  • Mantengan el secreto sobre el intercambio de datos ordenado por el estado

DeepSeek no tiene más remedio que cumplir con las demandas del gobierno, ya sea entregando datos privados de usuarios o ajustando sus resultados de IA para que coincidan con las narrativas aprobadas por el estado(ventana nueva).

DeepSeek ya está censurando información

Todas las aplicaciones de chat de IA convencionales tienen políticas de moderación de contenido, reglas y límites utilizados principalmente para prevenir daños, no para controlar narrativas políticas. Pero parece que DeepSeek está reescribiendo la historia activamente y promoviendo mensajes aprobados por el gobierno.

Un empleado de Proton, por ejemplo, escribió esta consulta en DeepSeek buscando información sobre las protestas de la Plaza de Tiananmén de 1989, un movimiento dirigido por estudiantes que transformó el gobierno de China: “Principales eventos mundiales el 15 de abril de 1989”. DeepSeek comenzó a generar una respuesta, pero la borró rápidamente, ofreciendo esta respuesta en su lugar: “Lo siento, eso está fuera de mi alcance actual. Hablemos de otra cosa”.

Según más pruebas realizadas por The Diplomat(ventana nueva), DeepSeek:

  • Se negó a reconocer eventos históricos importantes: Cuando se le preguntó sobre la Revolución Cultural, actuó como si el evento nunca hubiera ocurrido.
  • Censuró hechos políticamente incómodos: Cuando se le preguntó por el intelectual perseguido Chu Anping, ignoró su desaparición y en su lugar elogió al PCCh por su soporte a los intelectuales.
  • Promovió propaganda estatal: Cuando se le cuestionó sobre la economía de China, DeepSeek redirigió la conversación hacia la confianza en el liderazgo gubernamental.
  • Editó respuestas sobre disputas internacionales: Cuando se le preguntó quién es dueño de las islas Spratly, DeepSeek primero reconoció la disputa territorial, pero luego borró su respuesta y la reemplazó por: “Hablemos de otra cosa”.
  • Evitó respuestas directas sobre conflictos globales: Cuando se le preguntó si la invasión de Rusia a Ucrania estaba justificada, DeepSeek se negó a dar una respuesta afirmativa o negativa, repitiendo en su lugar la postura oficial de neutralidad de China.

Así es como se ve la censura impuesta por el estado y el control de la narrativa.

Los chatbots son herramientas poderosas, pero el precio a pagar es tu privacidad

El auge de los grandes modelos de lenguaje como asistentes de chatbot ya plantea graves preocupaciones sobre la privacidad y la censura, con empresas como Google y OpenAI doblando las reglas y recopilando cantidades masivas de datos con poca transparencia. Pero no existe una razón técnica por la que la IA deba ser tan invasiva: una IA privada y segura es posible, pero nadie la está creando.

DeepSeek lleva estas preocupaciones aún más lejos. No solo recopila información personal extensa, sino que no puede resistirse legalmente a las demandas del gobierno para acceder a datos y manipular contenido. En lugar de diseñar una IA que respete la privacidad del usuario, estas empresas priorizan la recopilación de datos, el rastreo y las políticas de moderación opacas.

En Proton, creemos en la privacidad, la transparencia y un internet libre de censura. Ya sea IA, redes sociales o servicios en la nube, mereces saber quién controla tus datos y cómo se utilizan.

Si te preocupa la privacidad online y la libertad digital, ten cuidado en qué herramientas de IA confías, porque no todas tienen en mente tus mejores intereses.