챗봇을 사용하는 것은 개인정보 및 검열의 지뢰밭을 걷는 것과 같습니다.

ChatGPT와 같은 AI 챗봇 앱은 사용자 데이터를 수집하고, 답변을 필터링하며, 콘텐츠 조정 결정을 내리는데, 이는 항상 투명한 것은 아닙니다. 그러나 중국에서 개발된 새로운 AI 챗봇인 DeepSeek는 서구 기술 기업에 대한(새 창) (새 창)주요 위협(새 창)으로 전례 없는 주목을 받고 있으며, 앞서 언급한 기능과 그 이상을 수행합니다.

사실 이 챗봇에는 더 큰 위험이 도사리고 있습니다. DeepSeek은 법적으로 중국 정부의 데이터 접근 및 콘텐츠 통제 요구를 준수해야 하며, 이에 저항할 법적 수단이 없습니다.

전 세계 정부(미국 및 EU 포함)는 기술 기업에 데이터 제출을 요구할 수 있지만, 서구권 기업들은 법정에서 이러한 요청에 이의를 제기할 법적 수단을 갖추고 있습니다. 예를 들어 OpenAI, Google, Meta는 과도한 정부의 요구에 대응하거나, 독립적인 법원에 항소하거나, GDPR과 같은 개인정보 보호법을 위반하는 요청을 거부할 수 있습니다. 반면 DeepSeek는 중국 국가정보법(새 창)에 따라 운영되며, 해당 법은 기업이 투명성이나 법적 거부권 없이 정부의 정보 수집 활동에 협력하도록 강제합니다. 즉, 중국 정부가 사용자 데이터에 접근하거나 AI가 생성한 응답을 조작하려 할 경우 DeepSeek는 이를 따를 수밖에 없습니다.

본 기사는 DeepSeek가 수집하는 정보와 이것이 귀하의 개인정보, 검열, 정부 통제에 미치는 영향에 대해 자세히 다룹니다.

DeepSeek란 무엇인가?

DeepSeek는 중국 기반의 헤지펀드인 High-Flyer(새 창)가 소유한 AI 스타트업입니다. 이 회사는 ChatGPT의 오픈 소스 대안으로 홍보되어 왔으며, 사람처럼 응답하고, 코딩을 지원하며, 복잡한 문제를 해결할 수 있는데 매우 저렴하게 이 모든 작업을 수행합니다(새 창).

이 모델은 주요 서구권 AI 모델의 성능을 훨씬 낮은 비용으로 구현했다는 주장으로 국제적인 주목(새 창)을 받았습니다. 2025년 1월 기준으로 DeepSeek는 Apple의 App Store 다운로드 순위에서 ChatGPT를 앞질렀으며(새 창), 이는 기술주 전반의 급락을 불러왔습니다. 또한 차세대 AI 혁신을 위해 필수적이라고 주장하며 미국 기술 기업들이 에너지 소비가 막대한 데이터 센터 확장에 수십억 달러를 쏟아붓는 것에 대한 우려를 낳고 있습니다.

하지만 사람들이 DeepSeek를 다운로드하고 챗봇을 사용한 경험을 공유하면서, 이 부류의 기술을 사용하는 데에는 개인정보와 가장 민감한 정보의 보안이라는 익숙한 대가가 따른다는 사실이 분명해졌습니다.

심각한 보안 결함

최근 연구에 따르면 DeepSeek의 보안 관행은 이후 다룰 데이터 정책만큼이나 우려스러운 수준일 수 있다는 사실이 밝혀졌습니다.

2025년 1월 29일, 사이버 보안 기업 Wiz는 보고서를 통해(새 창) DeepSeek가 100만 줄 이상의 민감한 데이터를 공개된 인터넷상에 실수로 노출했다고 발표했습니다. 이 유출 데이터에는 DeepSeek 시스템에 대한 무단 접근을 허용할 수 있는 디지털 소프트웨어 키와 챗봇에 입력된 실제 질문을 보여주는 실제 사용자들의 채팅 로그가 포함되어 있었습니다.

Wiz 연구원들은 최소한의 스캔만으로 거의 즉시 해당 데이터베이스를 발견했다고 말했습니다. Wiz가 DeepSeek에 연락한 지 30분 만에 데이터베이스가 잠겼지만, 데이터가 보안 조치되기 전에 악의적인 행위자가 데이터에 접근했거나 다운로드했는지는 불분명합니다. 발견하기가 매우 쉬웠다는 점을 고려하면 충분히 가능한 시나리오입니다.

Wiz의 최고 기술 책임자인 아미 루트왁(Ami Luttwak)은 Wired와의 인터뷰에서(새 창) 이번 유출은 “극적인 실수”라고 지적하며, DeepSeek의 시스템은 “민감한 데이터를 다루기에 아직 성숙하지 않았다”고 경고했습니다.

하지만 이번 유출로 인해 최소한 한 가지 사실은 분명해졌습니다. DeepSeek는 방대한 양의 사용자 데이터를 수집하고 저장할 뿐만 아니라, 이를 보호하는 데 필요한 보안 조치조차 갖추지 못한 것으로 보인다는 점입니다.

DeepSeek는 어떤 데이터를 수집하는가?

개인정보취급방침(새 창)에 따르면, DeepSeek는 다음과 같은 광범위한 개인정보를 수집합니다.

  • 프로필 정보: 사용자 이름, 이메일, 전화번호, 비밀번호, 생년월일.
  • 사용자 입력: 채팅 기록, 질문, 오디오 입력을 포함하여 귀하가 입력하거나 업로드하는 모든 내용.
  • 기기 및 네트워크 데이터: IP 주소, 기기 모델, 운영 체제, 시스템 언어, 키 입력 패턴.
  • 사용 데이터: 사용하는 기능, 수행하는 작업, 시스템 성능 로그.
  • 쿠키 및 트래커: 사용자 행동을 모니터링하기 위한 웹 비콘 및 기타 추적 기술.
  • 타사 데이터: 웹사이트, 앱, 상점 전반에 걸쳐 귀하의 활동을 추적하는 연결된 계정 및 광고 파트너로부터의 정보.

DeepSeek가 중국 내 서버에 이 데이터를 저장하고 처리하며 정부의 접근 대상이 된다는 점은 유럽 규제 당국에 경종을 울렸습니다.

DeepSeek, 유럽에서 조사 중

아일랜드 데이터 보호 위원회(DPC)(새 창)와 이탈리아 데이터 보호 당국(DPA)(새 창) 모두 DeepSeek의 사용자 데이터 수집, 저장 및 처리 방식에 대한 조사에 착수했습니다(새 창).

이탈리아 DPA는 DeepSeek가 개인정보 처리에 관한 충분한 정보를 제공하지 않자 자국 내 DeepSeek 접근을 차단했습니다. 규제 당국은 DeepSeek가 어떤 데이터를 수집하고 어디에 저장하며, GDPR과 같은 EU 개인정보 보호법을 준수하는지 확인하고자 합니다.

아일랜드 DPC 또한 DeepSeek가 아일랜드 사용자들의 데이터를 처리하는 방식에 대한 세부 정보를 요청했습니다. 한편, 이탈리아 내 Apple 및 Google 앱 스토어에서 DeepSeek 앱이 삭제되었는데, 자발적인 삭제였는지 강제적인 조치였는지는 불분명합니다.

DeepSeek가 유럽의 개인정보 보호법을 준수하지 않을 경우, EU 내에서 벌금, 서비스 금지, 또는 추가적인 제재에 직면할 수 있습니다.

DeepSeek는 오픈 소스인데 안전할까?

DeepSeek는 오픈 소스이므로 귀하는 코드를 수정하여(새 창) 독자적이고 더 안전한 버전을 직접 앱에 구축할 수 있습니다. 이로 인해 개인정보를 보호하는 DeepSeek 버전이 개발되기를 바라는 사람들도 있습니다. 하지만 중국에 호스팅되어 현재 형태로 존재하는 DeepSeek를 사용하는 것은 민감하고 개인적인 정보를 중요하게 생각하는 모든 사람에게 심각한 위험을 초래합니다.

DeepSeek 서버에서 학습되거나 운영되는 모든 모델은 여전히 중국 데이터법의 적용을 받으며, 이는 중국 정부가 언제든 접근을 요구할 수 있음을 의미합니다.

더 개인적인 AI 경험을 원하신다면 모델을 로컬에서 실행하는 것이 더 나은 선택입니다. LM Studio(새 창)와 같은 도구를 사용하면 AI 모델을 자신의 기기에 직접 다운로드하여 실행할 수 있어 데이터를 안전하게 유지할 수 있습니다.

DeepSeek의 기술이 유망할지라도, 데이터 처리 관행과 법적 의무 때문에 심각한 개인정보 및 보안 위험이 존재합니다.

DeepSeek는 중국의 감시법을 적용받는다

DeepSeek는 2017년 중국 국가정보법(새 창)에 따라 운영됩니다. 이 법은 모든 중국 기업이 국가 안보 문제에 대해 정부를 지원하도록 강제합니다. 즉, TikTok부터 RedNote, DeepSeek에 이르기까지 모든 중국 기업은 미국이나 기타 지역 사용자의 데이터라 할지라도 중국 당국과 공유하도록 강요받을 수 있습니다(새 창).

이 법은 모든 중국 기업이 다음을 수행하도록 요구합니다:

  • 요청 시 정부에 사용자 데이터에 대한 접근 권한 부여
  • 국가 정보 운영 지원
  • 국가 주도의 데이터 공유에 대해 비밀 유지

DeepSeek는 개인 사용자 데이터를 넘겨주거나 AI 답변을 국가 승인 서사(새 창)에 맞게 조정하는 등 정부의 요구를 따를 수밖에 없습니다.

DeepSeek는 이미 정보를 검열하고 있다

모든 주류 AI 채팅 앱에는 주로 해를 방지하기 위한 콘텐츠 조정 정책, 규칙 및 경계가 있습니다. 그러나 DeepSeek는 적극적으로 역사를 다시 쓰고 정부 승인 메시지를 밀어붙이는 것으로 보입니다.

예를 들어, 한 Proton 직원이 DeepSeek에 1989년 톈안먼 사태, 즉 중국 정부를 변화시킨 학생 주도 운동에 대한 정보를 찾기 위해 “1989년 4월 15일의 주요 세계 사건”이라는 질문을 입력했습니다. DeepSeek는 답변을 생성하기 시작했으나 곧 삭제하고 대신 “죄송합니다. 그 질문은 제 현재 범위를 벗어납니다. 다른 주제로 이야기하시겠습니까?”라는 답변을 제시했습니다.

The Diplomat의 추가 테스트(새 창)에 따르면 DeepSeek는 다음과 같습니다:

  • 주요 역사적 사건 인정 거부: 문화대혁명에 대해 질문했을 때, 해당 사건이 전혀 발생하지 않은 것처럼 행동했습니다.
  • 정치적으로 불편한 사실 검열: 박해받은 지식인 추안핑에 대해 질문했을 때, 그의 실종 사실은 무시하고 오히려 지식인을 지원하는 중국 공산당을 찬양했습니다.
  • 국가 선전 홍보: 중국 경제에 관해 질문을 받았을 때, DeepSeek는 대화의 방향을 정부 지도부에 대한 신뢰로 돌렸습니다.
  • 국제 분쟁 관련 답변 편집: 스프래틀리 군도의 소유권을 질문했을 때, DeepSeek는 처음에 영토 분쟁을 인정했으나, 이후 응답을 삭제하고 “다른 주제에 대해 이야기해 봅시다.”라는 문구로 대체했습니다.
  • 글로벌 갈등에 대한 직접적인 답변 회피: 러시아의 우크라이나 침공이 정당한지 질문했을 때, DeepSeek는 예 또는 아니오 답변을 거부하고 중국의 공식적인 중립 입장을 반복했습니다.

이것이 바로 국가가 강요하는 검열과 내러티브 통제의 모습입니다.

챗봇은 강력한 도구이지만, 그 대가는 사용자의 개인정보입니다.

챗봇 어시스턴트로서 대규모 언어 모델의 부상은 이미 심각한 개인정보 및 검열 문제를 야기하고 있으며, OpenAI나 Google과 같은 기업들은 규칙을 수정하고 투명성 없이 막대한 양의 데이터를 수집하고 있습니다. 하지만 AI가 이토록 침해적이어야 할 기술적인 이유는 없습니다. 개인의 프라이버시를 보호하는 안전한 AI는 충분히 가능하지만, 아무도 이를 만들지 않고 있습니다.

DeepSeek는 이러한 우려를 더욱 심화시킵니다. 광범위한 개인정보를 수집할 뿐만 아니라, 데이터 접근 및 콘텐츠 조작에 대한 정부의 요구에 법적으로 저항할 수 없습니다. 사용자 개인정보를 존중하는 AI를 설계하는 대신, 이들 기업은 데이터 수집, 추적, 불투명한 조정 정책을 우선시합니다.

Proton은 개인정보 보호, 투명성, 그리고 검열 없는 인터넷을 믿습니다. AI, 소셜 미디어, 클라우드 서비스 등 무엇을 이용하든 귀하는 귀하의 데이터를 누가 통제하고 어떻게 사용되는지 알 권리가 있습니다.

온라인 개인정보 보호와 디지털 자유를 중요하게 생각한다면 신뢰할 수 있는 AI 도구를 신중하게 선택하십시오. 모든 AI가 귀하의 이익을 최우선으로 고려하는 것은 아니기 때문입니다.