AI 어시스턴트는 대부분의 비즈니스에 부족한 점, 즉 추가 비용 없는 효율성을 약속해 왔습니다.
AI 어시스턴트는 귀하의 이메일을 요약하고, 귀하를 대신하여 답장하며, 결정을 내려야 하는 메시지를 가려내고, 캘린더 이벤트를 자동화하며, 문서에서 정보를 추출하여 정리까지 해 줍니다.
자원보다 필요한 것이 더 많은 중소기업의 창업자나 경영진에게는 마치 적절한 타이밍에 소원이 이루어진 것처럼 느껴질 수 있습니다. 하지만 AI가 귀하에게 요구하는 것은 귀하의 받은 편지함, 캘린더, 파일, 그리고 비즈니스 기밀 정보까지 모든 것에 대한 접근 권한입니다.
무려 69%의 기업이 이미 ChatGPT, Claude, Grammarly와 같은 AI 어시스턴트를 사용하고 있지만, 30%는 자사의 고유한 비즈니스 데이터를 보호하는 데 있어 확신이 없거나 AI 기업을 신뢰하지 않습니다.
절충해야 하는 대가가 처음에는 명확해 보이지 않을 수 있습니다. 하지만 중소기업이 효율성을 얻는 대신 치르는 대가는 바로 보안입니다.
효율성의 대가
귀하의 Gmail, Google 드라이브 또는 캘린더를 Perplexity의 Comet과 같은 도구에 연결할 때, 귀하는 종종 ‘보기’ 접근 권한을 넘어선 OAuth 권한을 부여하게 됩니다. 요청된 범위에 따라 이 도구는 연락처를 다운로드하고, 캘린더 전체를 제어하며, 심지어 귀하를 대신하여 이메일을 작성할 수도 있습니다.
이러한 권한은 기술적으로 권한 부여 단계에서 고지되지만, 대부분의 사용자는 이것이 실제로 무엇을 의미하는지 충분히 평가하지 않습니다. 일단 권한이 부여되면 해당 도구는 대량의 민감한 회사 데이터에 접근하고 이를 처리할 수 있게 됩니다.
다른 AI 지원 워크플로에도 동일한 패턴이 적용됩니다. 내부 지식베이스를 색인화하고, 독점 문서를 요약하거나, 회사 데이터의 컨텍스트를 분석하는 것 모두 정보 노출 범위를 넓히는 결과를 낳습니다.
귀하가 어떤 접근 권한을 부여했는지 알지 못하면 귀하가 초래한 위험을 정확하게 평가할 수 없습니다.
AI 어시스턴트와 브라우저가 볼 수 있는 정보의 범위
귀하는 Perplexity의 Comet이나 ChatGPT의 Atlas(새 창)와 같은 AI 브라우저가 귀하가 머무는 페이지를 읽고, 요약하며, 텍스트를 재작성할 수 있다는 점을 알고 계실 것입니다. 하지만 귀하를 대신하여 조치를 취할 수도 있다는 사실을 알고 계셨나요?
효율성은 긴밀한 통합에 달려 있으므로, 어시스턴트는 귀하의 브라우징 활동을 파악할 수 있어야 하며 연결된 계정에 대한 접근을 요청할 수 있습니다. 경우에 따라 단순히 텍스트를 생성하는 것을 넘어 특정 행동을 유발할 수도 있습니다.
이는 더 넓은 범위의 AI 에이전트 아키텍처이기도 합니다. AI 에이전트는 연결된 여러 시스템에서 작동하도록 설계되었습니다. 단 하나의 유출되거나 조작된 에이전트만으로도 귀하의 이메일, 캘린더, 파일, 그리고 자격 증명을 차례대로 거쳐 이동할 수 있습니다.
이는 이러한 도구의 구축 방식이 가져온 결과입니다. 이로 인해 연구원들이 악용할 수 있는 취약점이 생성되고 있습니다.
보안 연구원들은 웹 콘텐츠에 첨부된 숨겨진 명령이 어떻게 의도하지 않은 방식으로 이러한 시스템을 조작할 수 있는지 이미 증명해 보였습니다.
최근 발견된 취약점인 “CometJacking(새 창)“은 URL에 첨부된 명령어가 어떻게 사용자가 모르는 사이에 AI를 조작하여 개인 또는 회사 데이터에 접근하도록 하거나 유해한 작업을 수행하도록 만들 수 있는지 보여주었습니다.
공급업체는 패치 및 안전 장치를 신속하게 배포하여 대응합니다. 이번 사례에서 Perplexity는 4단계 보안 조치 방식으로 대응했습니다. 하지만 이러한 패턴은 훨씬 더 본질적인 문제를 강조합니다. 즉, 이러한 도구는 해석하고 행동하도록 설계되었다는 점입니다.
Perplexity마저도 자사의 개인정보취급방침(새 창)에서 “그 어떤 보안 조치도 절대 뚫리지 않는 것은 아니며, 당사는 ‘완벽한 보안’을 보장할 수 없습니다”라고 명시하고 있습니다. 따라서 중요한 점은 해당 도구가 현재 안전한지 여부가 아니라, 도구가 요구하는 접근 권한의 수준에 귀하가 안심할 수 있는지의 여부입니다.
개인정보 보호의 책임이 향하는 곳
AI 공급업체는 개인정보 제어와 옵트아웃 기능의 중요성을 강조합니다. 일례로 Perplexity의 Comet Assistant는 사용자에게 “Comet Assistant를 통해 사용자가 직접 제어할 수 있습니다”라고 약속합니다.
그러나 이러한 제어 기능은 잘못된 가정에 기반하고 있습니다. 사용자가 자신의 데이터가 처리되는 방식을 완전히 이해하고, 관련 설정을 능동적으로 구성하며, 정책이 어떻게 변화하는지 지속적으로 모니터링할 것이라고 가정하는 것입니다.
실제로 대부분은 그렇지 않습니다. Proton의 2026 SMB 사이버 보안 보고서에 따르면, 중소기업의 43%는 제공업체의 개인정보 보호 수준을 독립적으로 검증할 수 없다고 답했으며, 35%는 제공업체가 데이터를 어떻게 핸들하는지 전혀 이해하지 못하고 있습니다.
일부 정보는 모델 학습에서 제외될 수 있으며, 다른 데이터는 개인화 개선을 위해 보관될 수도 있습니다. 정책은 기능마다 다를 수 있으며 제품 개발 과정에서 변경될 수 있습니다. 특정 기능을 비활성화하면 해당 도구를 매력적으로 만드는 핵심 기능 자체가 제한될 수도 있습니다.
이러한 환경에서 개인정보 보호는 더 이상 정적인 제품 차원의 약속에 머무르지 않으며, 지속적인 운영상의 책임이 됩니다.
이제 그 책임은 사용자이신 귀하에게 전가됩니다. 귀하는 어떤 데이터를 공유할지 결정하고, 정책 업데이트를 모니터링하며, 설정을 적절하게 구성하고, 제품이 발전함에 따라 위험을 재평가해야 합니다.
이 페이지에서는 AI 개인정보 보호 및 보안(새 창)에 관한 실용적인 가이드와 설명 자료를 한데 모아 제공하므로, 귀하가 다루고 있는 제품이 무엇인지 정확하게 파악할 수 있습니다.
프라이빗 AI 어시스턴트 또는 AI 기반 브라우저의 주요 기능
귀하의 팀은 모든 상호작용이 저장되거나, 프로파일링되거나, 다음 모델 버전의 학습에 활용될 것이라는 우려 없이 AI 어시스턴트를 사용할 수 있어야 합니다.
- 기본값으로 데이터가 로깅되지 않습니다. 귀하의 팀은 모든 상호작용이 저장되거나, 프로파일링되거나, 수익화될 것이라는 우려 없이 AI 어시스턴트나 에이전트를 사용할 수 있어야 합니다. 도구가 “메모리”나 “설정”을 구축하는 경우, 다음을 질문해 보아야 합니다. 이 데이터는 누가 제어합니까? 기본 설정으로 완전히 꺼져 있습니까, 아니면 설정 깊숙한 곳에 숨겨져 있습니까? 그리고 이 기능을 끄면 제품의 어떤 기능을 사용할 수 없게 됩니까?
- 귀하의 비즈니스 정보로 모델을 학습시키지 않습니다. 비즈니스 문서, 파트너 정보, 보고서 또는 요금제는 AI 모델 학습에 절대 사용되어서는 안 됩니다. 이는 공정성의 문제일 뿐만 아니라, 귀하가 통제할 수 없는 사고 발생 시 데이터가 다시 노출될 수 있으므로 보안상의 문제이기도 합니다.
- 진정한 투명성. 투명성은 신뢰를 쌓아 주지만, 그것이 진짜일 때만 그렇습니다. 즉, 귀하의 데이터가 어떻게 핸들되는지, 제품을 이끄는 원칙이 무엇인지 모든 단계에서 이해할 수 있어야 함을 의미합니다. 도구를 실제로 사용한 경험과 상충되는 이용 약관을 구문 분석하는 데 두 시간을 허비해야 한다면, 그것은 투명성이 아니라 마케팅 문구에 불과합니다.
- 제로 접근 암호화. 제로 접근 암호화를 통해 귀하의 데이터는 오직 귀하만이 제어할 수 있는 키로 보호되며, 서비스 제공업체조차도 이를 읽을 수 없습니다. 아키텍처 자체적으로 오용이 기술적으로 불가능하도록 설계되어 있으므로, 정책이나 약속을 굳이 신뢰해야 할 필요성을 삭제해 줍니다.
대부분의 AI 도구는 이를 사용하는 비즈니스에서 가치를 추출합니다. 귀하의 대화, 문서 및 파일은 대개 유의미한 고지나 동의 없이 모델 학습, 고객 프로파일링, 그리고 경우에 따라 정부의 데이터 요청 처리에 피드로 사용됩니다. 하지만 Lumo는 다릅니다.
Lumo는 편의를 위해 데이터를 넘겨주기를 거부하는 비즈니스를 위해 구축된 AI 어시스턴트입니다. 제로 접근 암호화가 적용되며, 데이터가 로깅되지 않고, 귀하의 비즈니스 정보로 모델을 학습시키지 않습니다.
