“제로 데이터 보존”이 비즈니스 데이터를 보호하지 못할 수 있는 이유

OpenAI나 Anthropic에 독점 지식이나 고객 데이터를 공유하는 일을 두 번쯤 고민해 본 적이 있다면, 혼자가 아닙니다. AI 공급업체를 선택하는 기업에게 데이터 개인정보 보호는 이제 결정적인 요소가 되었습니다. Fortune은(새 창) 이번 주 AI 혁신의 최전선에 있는 연구소들이 이제 제로 데이터 보존(ZDR)을 두고 경쟁하고 있다고 보도했습니다. ZDR이 약속하는 바는 단순합니다. 공급업체가 프롬프트를 처리해 답변을 반환한 뒤 그 기록을 남기지 않는다는 것입니다. 하지만 실제로 ZDR은 최상위 고객에게만 제공됩니다. 예외 조항도 따릅니다. 이에 대해서는 곧 자세히 다루겠습니다. 즉, 공급업체가 단 몇 주 만에 자체 정책을 뒤집을 수 있다는 뜻입니다.

여기까지 오게 된 과정

6월 9일, Anthropic은 가장 강력한 모델인 Fable 5와 Mythos 5를 출시하면서 모든 트래픽에 30일 보존을 의무화했습니다. 이는 AWS Bedrock과 Google Vertex AI를 비롯해 해당 모델이 실행되는 모든 플랫폼에 적용되었고, 일부 기업이 이미 체결한 제로 보존 계약을 무효화했습니다. Anthropic은 이 데이터가 오용을 탐지하는 데 필요하며 학습에는 사용되지 않고 30일 후 “거의 모든 경우”에 삭제될 것이라고 밝혔습니다.

기업들은 이를 받아들이지 않았습니다. 하루 만에 Microsoft는 자사 직원의 Fable 접근을 제한(새 창)했고, 법무팀은 약관을 검토했습니다. Nvidia는 Anthropic 모델 사용을 민감도가 낮은 업무로 제한(새 창)하고 내부적으로 자체 Nemotron 모델에 의존했습니다. Palantir는 Anthropic이 되돌릴 수 없는 제로 보존을 보장할 때까지 자사 소프트웨어를 통한 Anthropic 모델 제공을 거부(새 창)했습니다. 국방과 정보 기관을 위해 상당한 업무를 수행하는 미국 컨설팅 회사인 Booz Allen Hamilton(새 창)은 직원이 독점 사이버 보안 업무에 상용 모델을 사용하는 것을 금지했습니다.

한 달 후, Microsoft CEO 사티아 나델라(새 창)와 Palantir CEO 알렉스 카프(새 창)는 기업들에게 최전선 AI 의존에 대해 공개적으로 경고했습니다. 나델라는 “결국 지능에 두 번 비용을 지불하는 셈입니다. 한 번은 돈으로, 또 한 번은 그보다 더 값진 것으로 말이죠. 바로 그 지능을 쓸모 있게 만들기 위해 공개해야 하는 독점 지식입니다”라고 말했습니다.

이제 공급업체들은 피해를 복구하기 위해 경쟁하고 있습니다. 8월 19일, OpenAI는 최전선 모델에서 자격을 갖춘 기업 및 API 고객에게 완전한 제로 데이터 보존을 재확인(새 창)했습니다. 또한 Private Safety Processing을 미리보기로 공개했는데, 이는 자격을 갖춘 고객의 콘텐츠가 고객이 통제하는 인프라에 남거나, OpenAI가 보유하지 않은 키로 암호화되어 OpenAI 인프라에 저장되는 설계입니다. 자동화 시스템이 이를 스캔하고 해당 활동의 범주와 심각도를 설명하는 제한된 신호만 반환합니다.

9월 1일, Anthropic은 Enterprise Frontier Safeguards(새 창)(EFS)를 발표했습니다. EFS는 오용 모니터링 데이터를 Anthropic이 아닌 고객의 자체 클라우드 계정에 고객의 자체 암호화 키로 저장합니다. EFS는 발표 당시에는 사용할 수 없었고, 올가을 후반에 Enterprise 요금제에서 단계적으로 출시될 예정입니다. 그동안 Anthropic이 자격이 있다고 판단한 고객은 임시방편으로 Fable에서 ZDR을 적용받습니다.

두 해결책 모두 모니터링을 유지합니다. 기록이 어디에 남고 누가 읽을 수 있는지는 달라졌을 수 있지만, 어느 AI 연구소도 기록을 삭제하겠다고 약속하지 않았습니다.

데이터 보존이 결정적 문제가 된 이유

기업용 AI를 도입한 기업들은 데이터가 짧게 보관되고 오용을 적발하는 데만 사용되며 학습에는 절대 사용되지 않는다는 전제로 보존 약관을 받아들였습니다. 네 가지 문제가 그 전제를 무너뜨렸습니다.

법원은 삭제 약속을 무효로 만들 수 있습니다. 2025년 5월, New York Times 소송(새 창)의 보존 명령으로 OpenAI는 삭제된 채팅과 유료 Team 요금제의 채팅을 포함해 ChatGPT 및 API 출력 로그를 무기한 보관해야 했습니다. 이 명령은 약 4개월간 유지됐고 일부 데이터는 여전히 보관되고 있습니다. ZDR을 적용받는 API 고객은 영향을 받지 않았는데, 데이터가 애초에 저장되지 않았기 때문입니다. 하지만 공급업체가 한 번 사본을 보관하면 그 데이터가 얼마나 오래 존재할지는 법원이 결정합니다.

미국 법은 데이터가 어디에 있든 적용됩니다. CLOUD Act에 따라 미국 당국은 유럽 데이터 센터에 있는 데이터일지라도 미국 기업이 소유, 보관, 통제하는 데이터를 넘기도록 강제할 수 있습니다. 미국 공급업체가 제공하는 EU 데이터 상주 옵션은 데이터가 저장되는 위치를 바꿀 뿐, 어느 정부가 데이터를 요구할 수 있는지를 바꾸지는 않습니다. 파트너와 계약업체도 이 문제의 일부이며 각주가 아닙니다. Anthropic의 30일 규칙은 AWS와 Google Cloud에도 적용됐고, OpenAI는 전문화된 제3자 계약업체가 지원, 남용 조사, 법적 준수를 위해 대화에 접근할 수 있다고 밝힙니다. 고객이 보유한 암호화 키는 클라우드 제공업체가 넘길 수 있는 범위를 제한하지만, 제공업체를 미국 관할권 밖으로 옮겨 주지는 않습니다.

FBI는 판사의 승인 없이 국가안보서한을 발행할 수도 있습니다. 이는 대화 내용이 아니라 가입자 및 거래 기록, 즉 누가 언제 서비스를 얼마나 사용했는지를 요구합니다. 보통 비밀 유지 명령이 함께 따라붙기 때문에 공급업체가 이를 알려주지 못할 수 있습니다. 콘텐츠가 삭제된 경우에도 메타데이터가 중요한 이유가 여기에 있습니다.

미국 정부는 모델을 그냥 꺼버릴 수도 있습니다. 6월 9일 출시 사흘 후, 미국 상무부의 서한은 비미국 국적자의 Fable 5와 Mythos 5 접근을 금지했습니다. Anthropic은 6월 30일경 통제가 해제될 때까지 전 세계 고객의 접근을 취소했습니다. 약 3주 동안 시장에서 가장 성능이 뛰어난 모델은 미국 기관이 그렇게 결정했기 때문에 미국 밖에서는 사용할 수 없었습니다. 아무리 잘 작성된 데이터 처리 조항도 이로부터 보호해 주지 못합니다. 가용성 역시 관할권 리스크이며, 유럽 구매자들은 이를 그렇게 취급하기 시작했습니다. 올해 발표된 1,500명의 유럽 비즈니스 리더 대상 Proton 설문조사에서 74%는 미국 당국이 공급업체에 자신들의 접근을 차단하라고 명령할 수 있다고 우려한다고 답했습니다.

보존은 접근의 대가가 되었습니다. 기업이 협상으로 체결한 ZDR 계약은 가장 사용하고 싶은 모델에서는 보호해 주지 못했습니다. 고객 기밀 유지나 업종 규정에 묶인 기업들은 최고의 모델과 자체 의무 중 하나를 선택해야 했습니다.

기억해 둘 만한 차이가 있습니다. “그것으로 학습하지 않는다”와 “그것으로부터 배우지 않는다”는 다릅니다. 프롬프트를 보관하는 공급업체는 그 프롬프트를, 어떤 업무를 자동화하는지, 워크플로가 어떤 모습인지를 여전히 분석할 수 있습니다. Fortune이 인용한 보안 전문가들은 AI 기업이 데이터로 직접 학습하지 않고도 이런 통찰을 활용해 향후 제품을 개선할 수 있다고 말합니다. 이는 공급업체가 귀사의 제품과 경쟁하는 무언가를 만드는 데 도움이 될 수 있습니다.

제로 보존 아래 존재하는 모든 예외

대표 숫자만으로는 정책 전체를 알 수 없습니다. 보존 약관을 읽어 보면 같은 예외 조항이 반복해서 등장합니다.

• 오용 모니터링. 대부분의 AI API는 기본적으로 프롬프트와 출력을 보관해 오용을 스캔할 수 있게 하며, 보통 약 30일 동안 보관하고 때로는 사람 검토자가 이를 읽을 수 있습니다. 오용 모니터링은 바로 Anthropic의 30일 규칙(새 창)의 근거였고, ZDR을 신청해야 하는 이유이기도 합니다. 현재 공개된 기본값은 다음과 같습니다. OpenAI API는 오용 모니터링을 위해 30일, Azure OpenAI는 Microsoft 환경에 30일 저장하며 사람의 검토는 이미 플래그된 콘텐츠로 제한되고, 수정된 오용 모니터링에 대한 승인을 통해서만 삭제할 수 있는데 여기에는 엔터프라이즈 계약이 필요합니다. Google의 유료 Gemini Developer API는 기본 55일이며 7일, 14일, 28일로 줄일 수 있고 Vertex AI는 30일입니다. 이 숫자는 실제로 어떤 서비스를 구매하는지에 따라 달라집니다.
• 플래그된 대화. 자동 분류기가 특정 채팅이 사용 정책을 위반했다고 판단하면 보존 기간이 달라집니다. Anthropic이 공개한 약관에 따르면 위반으로 플래그된 입력과 출력은 최대 2년까지, 이에 첨부된 신뢰 및 안전 분류 점수는 최대 7년까지 보관될 수 있습니다. 분류기는 실수합니다. 자체 방어 체계를 점검하는 보안팀이나 화학에 대해 질문하는 연구자도 분류기를 작동시킬 수 있습니다. 보존 정책은 일반적으로 그런 일이 발생할 때 알려 주겠다고 약속하지 않습니다.
• 데이터에 관한 데이터. 대화 자체가 삭제되더라도 그에 관한 기록은 남을 수 있습니다. 분류기 점수, 계정 및 사용자 식별자, 타임스탬프, 사용량, 호출된 도구나 커넥터 등입니다. 이는 귀사가 어떻게 운영되는지 자세히 파악하기에 충분합니다. 또한 국가안보서한이 요구할 수 있는 바로 그런 종류의 기록입니다.
• 의견 버튼. 좋아요 또는 싫어요(새 창)를 누르면 전체 대화가 함께 전송됩니다. Anthropic은 의견이나 버그 신고를 통해 제출된 데이터를 5년간 보관합니다.
• 파일, 메모리, 에이전트. ZDR은 일반적으로 모델 호출만 포괄하며 그 주변의 기능은 포함하지 않습니다. 업로드된 파일, 벡터 스토어, 메모리, 저장된 채팅, 커넥터, 에이전트 세션은 삭제할 때까지 저장됩니다. 예를 들어 Anthropic 자체 정책은 Files API처럼 “고객이 통제하는 더 긴 보존”이 적용되는 서비스를 제외합니다.
• 개인 계정. 직원이 개인 요금제로 AI를 사용하면 회사 데이터는 소비자 약관의 적용을 받습니다. 2025년 말 개정된 소비자 약관에 따르면 채팅을 학습에 사용하도록 허용한 Anthropic 사용자의 채팅은 최대 5년간 보관됩니다.

삭제 약속에는 거의 항상 안전 조사와 법적 의무에 대한 예외, 즉 “거의 모든 경우” 조항이 붙습니다. 바로 그 예외 조항에서 데이터가 가장 오래 남습니다.

약관 자체가 위험입니다

Anthropic은 정책을 바꿨습니다. 최신 모델에는 Fable의 보존 요구 사항이 적용되지 않으며 EFS도 곧 도입됩니다. 하지만 이런 변화는 모두 공급업체가 자체적으로 약관을 바꾸고 이미 체결한 모든 계약을 어길 수 있다는 사실을 보여줍니다.

이용하는 AI 공급업체가 데이터 처리 약관을 정하며, 원할 때마다 이를 다시 쓸 수 있습니다.

그래서 일부 기업은 민감한 AI 업무를 자체적으로 처리하기로 했습니다. Fortune의 보도에 따르면 Fable 발표 이후 보안 소프트웨어 기업 Cinder에는 오픈 모델을 직접 운영하는 방법을 묻는 일반 기업의 문의가 급증했습니다.

하지만 그런 복잡한 인프라를 직접 도입하는 경우는 여전히 드뭅니다. Menlo Ventures(새 창)는 2025년 말 기업용 LLM 사용에서 오픈 소스 모델이 차지하는 비중이 11%로, 전년도의 19%에서 줄었다고 추정했습니다. 그것도 이번 여름의 반발이 일어나기 전의 일입니다.

기업들은 모델을 직접 운영하면 보안이 자신들의 책임이 된다는 것을 알고 있습니다. 그 부담을 감당할 수 있는 기업은 많지 않습니다.

AI 공급업체에 물어볼 다섯 가지 질문

먼저 목록을 작성하세요. 사용 중인 모든 AI 도구를 나열하고, 각 사용자가 어떤 등급과 어떤 계정, 즉 회사 계정인지 개인 계정인지를 기록합니다. 그런 다음 각 공급업체에 다음을 물어보세요.

1. 우리 등급에서는 정확히 무엇이, 어떤 모델과 기능에 대해 보존되나요? ZDR이 현재 모델뿐 아니라 새 모델도 포괄하는지, 기본 API 호출뿐 아니라 업로드된 파일, 메모리, 커넥터, 에이전트, 의견까지 포괄하는지 물어보세요.
2. 오용 모니터링은 무엇을, 얼마나 오래 보관하며, 플래그가 붙으면 기간이 연장되나요? 플래그된 콘텐츠를 누가 검토하는지, 사람이 읽을 수 있는지, 귀사의 대화 중 하나가 플래그되면 알림을 받을 수 있는지 물어보세요.
3. 대화가 삭제되면 무엇이 남나요? 분류기 점수, 메타데이터, 파트너와 계약업체가 보관하는 로그, 백업에 대해 물어보세요.
4. 누가 보존된 데이터에 접근할 수 있고, 어느 정부가 이를 요구할 수 있나요? 직원과 계약업체가 데이터를 읽을 수 있는지 물어보세요. 데이터가 어디에 저장되어 있든 공급업체나 그 클라우드 제공업체가 CLOUD Act의 적용을 받는지 물어보세요. 소환장이나 법적 보존 요청을 통지받을 수 있는지, 공급업체가 국가안보서한을 포함해 받은 정부 요청 건수를 공개하는지 물어보세요. New York Times 명령으로 유료 Team 요금제의 삭제된 채팅이 몇 달간 보관됐습니다.
5. 이 약관을 변경할 수 있나요? 변경한다면 얼마나 미리 알려 주나요? ZDR 계약이 향후 모델에도 구속력을 갖는지 물어보세요. 6월에 Anthropic의 새 보존 규칙은 최신 모델 출시 당일부터 기존 계약을 무효화했습니다.
6. 기록을 남기지 않는다는 이유로 귀사의 제품을 선택한 고객은 어떻게 처리하나요? 공격자들도 기업과 같은 이유로 제로 보존을 선호합니다. Anthropic의 9월 위협 인텔리전스 보고서는 지역 차단을 우회하기 위해 미국 인프라를 통해 트래픽을 터널링하고, 제한된 연구 요청을 라우팅하는 데 ZDR 서비스를 이용한 플랫폼을 설명합니다. 기록할 것이 없는 공급업체를 포함해 신뢰할 수 있는 모든 공급업체는 점검할 보관 자료가 없을 때 오용을 어떻게 적발하는지에 대한 답을 갖춰야 합니다. 그 답을 명확히 제시하지 못한다면 그것 자체가 주목할 만한 신호입니다.

개인정보를 지키는 AI를 선택하세요

Lumo는 비공개로 업무를 처리하고 그 질문들에 대한 좋은 답을 갖추고자 하는 기업을 위해 만들었습니다. Lumo는 대화 로그를 남기지 않으며, 이는 최상위 계약에만 제공되는 기능이 아니라 모든 사용자에게 적용되는 기본값입니다.

저장하기로 선택한 채팅은 제로 접근 암호화로 보호되므로 본인만 기기에서 복호화할 수 있고 Proton은 이를 읽거나 넘겨주거나 분석할 수 없습니다.

Lumo는 대화로 학습하지 않으며, 미국의 법적 절차가 아닌 스위스 및 EU 법률이 적용되는 Proton의 유럽 데이터 센터에서 오픈 소스 모델로 운영됩니다. 또한 Proton은 최전선 모델을 개발하는 것이 아니라 구독으로 자금을 조달하기 때문에 귀사의 데이터로부터 배울 이유가 없습니다.

Lumo에 대해 더 알아보기