El uso de un chatbot implica adentrarse en un campo minado de privacidad y censura.

Las aplicaciones de chat con IA como ChatGPT recopilan datos de los usuarios, filtran respuestas y toman decisiones de moderación de contenido que no siempre son transparentes. Pero DeepSeek, un nuevo chatbot con IA desarrollado en China que está atrayendo una atención sin precedentes como una amenaza importante para (nueva ventana)l(nueva ventana)as empresas tecnológicas occidentales(nueva ventana), hace todo eso y más.

De hecho, este chatbot conlleva un riesgo aún mayor: DeepSeek está legalmente obligado a cumplir con las demandas del gobierno chino para acceder a los datos y controlar el contenido, sin que exista un recurso legal para oponerse.

Si bien los gobiernos de todo el mundo, incluidos los de EE. UU. y la UE, pueden citar datos de empresas tecnológicas, las empresas occidentales tienen vías legales para impugnar estas solicitudes ante los tribunales. OpenAI, Google y Meta, por ejemplo, pueden resistirse a la mayoría de las exigencias gubernamentales excesivas, apelar ante tribunales independientes o rechazar solicitudes que infrinjan las leyes de privacidad como el GDPR. DeepSeek, sin embargo, opera bajo la Ley de Inteligencia Nacional de China(nueva ventana), que obliga a las empresas a cooperar con los esfuerzos de inteligencia gubernamental sin transparencia ni la capacidad de rechazar legalmente tales requerimientos. Esto significa que si el gobierno chino desea acceder a los datos de los usuarios o manipular las respuestas generadas por la IA, DeepSeek no tiene más remedio que cumplir.

Este artículo analiza qué es lo que recopila DeepSeek y por qué es importante en lo que respecta a su privacidad, la censura y el control gubernamental.

¿Qué es DeepSeek?

DeepSeek es una start-up de IA propiedad de High-Flyer, un fondo de cobertura con sede en China(nueva ventana). Se ha promocionado como una alternativa de código abierto a ChatGPT, capaz de generar respuestas similares a las humanas, ayudar con la programación y resolver problemas complejos, todo ello a bajo costo(nueva ventana).

El modelo obtuvo atención internacional(nueva ventana) por supuestamente igualar el rendimiento de los modelos de IA occidentales líderes a una fracción del costo. Para enero de 2025, DeepSeek había superado a ChatGPT en descargas en la App Store de Apple(nueva ventana), lo que provocó una venta masiva global de acciones tecnológicas y generó preocupaciones sobre los miles de millones de dólares que las empresas tecnológicas en EE. UU. están invirtiendo en la expansión de centros de datos que consumen mucha energía, un gasto que afirman es vital para el próximo avance en IA.

Pero a medida que las personas descargaron DeepSeek y compartieron sus experiencias al utilizar el chatbot, quedó claro que el uso de DeepSeek conlleva un costo familiar para esta clase de tecnología: su privacidad y la seguridad de su información más sensible.

Defectos de seguridad profundos

Nuevas investigaciones han revelado que las prácticas de seguridad de DeepSeek pueden ser tan preocupantes como sus políticas de datos, lo cual abordaremos más adelante.

El 29 de enero de 2025, la firma de ciberseguridad Wiz informó(nueva ventana) que DeepSeek dejó accidentalmente expuestas más de un millón de líneas de datos sensibles en la internet pública. La filtración incluyó claves de software digitales, que podrían potencialmente permitir el acceso a los sistemas de DeepSeek, y registros de chat de usuarios reales, mostrando las indicaciones reales dadas al chatbot.

Los investigadores de Wiz dijeron que encontraron la base de datos casi inmediatamente con un escaneo mínimo. Dentro de los 30 minutos después de que Wiz contactara a DeepSeek, la base de datos fue bloqueada, pero no está claro si actores malintencionados accedieron o descargaron los datos antes de que fueran asegurados. Dada la facilidad con la que se encontró, ese escenario es bastante posible.

Ami Luttwak, director de tecnología de Wiz, dijo a Wired(nueva ventana) que la filtración fue un “error dramático”, advirtiendo que los sistemas de DeepSeek no son lo suficientemente maduros “para ser usados con cualquier dato sensible en absoluto”.

Esta filtración, sin embargo, dejó claro al menos una cosa: DeepSeek no solo recopila y almacena grandes cantidades de datos de usuarios, también parece carecer de las medidas de seguridad necesarias para protegerlos.

¿Qué datos recopila DeepSeek?

De acuerdo con su Política de privacidad(nueva ventana), DeepSeek recopila una amplia gama de datos personales, incluyendo:

  • Información de perfil: Nombre de usuario, correo electrónico, número de teléfono, contraseña y fecha de nacimiento.
  • Entrada del usuario: Todo lo que usted escribe o carga, incluyendo el historial de chat, indicaciones y entrada de audio.
  • Datos de dispositivo y red: Dirección IP, modelo de dispositivo, sistema operativo, idioma del sistema y patrones de pulsación de teclas.
  • Datos de uso: Funciones que usted utiliza, acciones que usted realiza y registros de rendimiento del sistema.
  • Cookies y rastreadores: Balizas web y otras tecnologías de seguimiento para monitorear el comportamiento del usuario.
  • Datos de terceros: Información de cuentas vinculadas y socios publicitarios que rastrean su actividad en sitios web, aplicaciones y tiendas.

El manejo y almacenamiento de estos datos por parte de DeepSeek en servidores en China, donde es asunto de acceso gubernamental, ha generado alarmas entre los reguladores europeos.

DeepSeek está bajo investigación en Europa

Tanto la Comisión de Protección de Datos de Irlanda (DPC)(nueva ventana) como la Autoridad de Protección de Datos de Italia (DPA)(nueva ventana) han iniciado investigaciones(nueva ventana) sobre cómo la empresa recopila, almacena y procesa los datos de los usuarios.

La DPA de Italia ha bloqueado el acceso a DeepSeek en el país después de que la empresa no proporcionara información suficiente sobre el manejo de los datos personales. Los reguladores quieren saber qué datos recopila DeepSeek, dónde se almacenan y si cumple con las leyes de privacidad de la UE como el GDPR.

La DPC de Irlanda también ha solicitado detalles sobre cómo DeepSeek procesa los datos de los usuarios irlandeses. Mientras tanto, la aplicación de DeepSeek ha sido eliminada de las tiendas de aplicaciones de Apple y Google en Italia, aunque no está claro si la eliminación fue voluntaria o impuesta.

Si DeepSeek no cumple con las leyes de privacidad europeas, podría enfrentar multas, prohibiciones o más restricciones en la UE.

DeepSeek es de código abierto, ¿pero es seguro?

DeepSeek es de código abierto, lo que significa que usted puede modificar el código(nueva ventana) en su propia aplicación para crear una versión independiente y más segura. Esto ha llevado a algunos a esperar que se pueda desarrollar una versión de DeepSeek más amigable con la privacidad. Sin embargo, usar DeepSeek en su forma actual, tal como existe hoy, alojado en China, conlleva serios riesgos para cualquiera preocupado por su información privada más sensible.

Cualquier modelo entrenado u operado en los servidores de DeepSeek sigue siendo asunto de las leyes de datos chinas, lo que significa que el gobierno chino puede exigir el acceso en cualquier momento.

Si usted busca una experiencia de IA más privada, ejecutar modelos localmente es una mejor opción. Herramientas como LM Studio(nueva ventana) le permiten descargar y ejecutar modelos de IA directamente en su propio dispositivo, manteniendo sus datos privados.

Incluso si la tecnología de DeepSeek es prometedora, sus prácticas de datos y obligaciones legales la convierten en un riesgo grave para la privacidad y la seguridad.

DeepSeek es asunto de las leyes de vigilancia de China

DeepSeek opera bajo la Ley de Inteligencia Nacional de China de 2017(nueva ventana), un estatuto que obliga a todas las empresas chinas a asistir al gobierno en asuntos de seguridad nacional. Esto significa que cualquier empresa china, desde TikTok hasta RedNote y DeepSeek, puede ser obligada a compartir datos de usuarios con las autoridades chinas(nueva ventana) incluso si esos datos provienen de usuarios en los Estados Unidos o en cualquier otro lugar.

Esta ley requiere que todas las empresas chinas:

  • Dar al gobierno acceso a los datos de usuario bajo petición
  • Asistir en las operaciones de inteligencia nacional
  • Mantener el secreto sobre el intercambio de datos ordenado por el estado

DeepSeek no tiene más opción que cumplir con las demandas del gobierno, ya sea que eso signifique entregar datos privados de usuarios o ajustar sus resultados de IA para que coincidan con las narrativas aprobadas por el estado(nueva ventana).

DeepSeek ya está censurando información

Todas las aplicaciones de chat de IA convencionales tienen políticas de moderación de contenido, reglas y límites utilizados principalmente para prevenir daños, no para controlar narrativas políticas. Pero parece que DeepSeek está reescribiendo activamente la historia y promoviendo mensajes aprobados por el gobierno.

Un empleado de Proton, por ejemplo, escribió esta indicación en DeepSeek, buscando información sobre las protestas de la Plaza de Tiananmen de 1989, un movimiento liderado por estudiantes que transformó el gobierno de China: “Principales eventos mundiales el 15 de abril de 1989”. DeepSeek comenzó a generar una respuesta, pero la eliminó rápidamente, ofreciendo esta respuesta en su lugar: “Lo siento, eso está fuera de mi alcance actual. Hablemos de otra cosa”.

De acuerdo con más pruebas realizadas por The Diplomat(nueva ventana), DeepSeek:

  • Se negó a reconocer eventos históricos importantes: Cuando se le preguntó sobre la Revolución Cultural, actuó como si el evento nunca hubiera ocurrido.
  • Censuró hechos políticamente inconvenientes: Cuando se le preguntó sobre el intelectual perseguido Chu Anping, ignoró su desaparición y en su lugar elogió al PCCh por su soporte a los intelectuales.
  • Promovió propaganda estatal: Cuando se le cuestionó sobre la economía de China, DeepSeek redirigió la conversación hacia la confianza en el liderazgo del gobierno.
  • Respuestas editadas sobre disputas internacionales: Cuando se le preguntó quién es el propietario de las islas Spratly, DeepSeek primero reconoció la disputa territorial, pero luego eliminó su respuesta y la reemplazó con: “Hablemos de otra cosa”.
  • Evitó respuestas directas sobre conflictos globales: Cuando se le preguntó si la invasión rusa de Ucrania estaba justificada, DeepSeek se negó a dar una respuesta afirmativa o negativa y, en su lugar, repitió la postura oficial de neutralidad de China.

Así es como se ve la censura impuesta por el Estado y el control de la narrativa.

Los chatbots son herramientas poderosas, pero el precio a pagar es su privacidad

El auge de los modelos lingüísticos de gran escala como asistentes de chatbot ya plantea serias preocupaciones sobre la privacidad y la censura, con empresas como OpenAI y Google cambiando las reglas y recopilando cantidades masivas de datos con escasa transparencia. Pero no existe una razón técnica por la que la IA deba ser tan invasiva: una IA privada y segura es posible, aunque nadie la esté construyendo.

DeepSeek lleva estas preocupaciones aún más lejos. No solo recopila información personal extensa, sino que no puede resistirse legalmente a las demandas gubernamentales de acceder a los datos y manipular el contenido. En lugar de diseñar una IA que respete la privacidad del usuario, estas empresas priorizan la recopilación de datos, el rastreo y las políticas de moderación opacas.

En Proton, creemos en la privacidad, la transparencia y una internet libre de censura. Ya sea en la IA, las redes sociales o los servicios en la nube, usted merece saber quién controla sus datos y cómo se están utilizando.

Si le preocupa la privacidad en línea y la libertad digital, tenga cuidado con las herramientas de IA en las que confía, porque no todas tienen sus mejores intereses en mente.