인공지능(AI) > ChatGPT는 안전할까요?
ChatGPT는 안전한가요?
OpenAI의 챗봇은 매일 수백만 명의 사람들이 사용하고 있지만, ChatGPT는 안심하고 사용할 수 있을까요?
많은 거대 IT 기업의 플랫폼과 마찬가지로, ChatGPT는 방대한 양의 사용자 데이터를 수집합니다. 해당 데이터는 제로 액세스 암호화로 보호되지 않으므로, OpenAI, OpenAI의 비즈니스 파트너(광고 및 분석 기업 포함), 정부 기관이 데이터에 접근할 수 있으며, 보안 사고 발생 시 공격자에게 유출될 수도 있습니다.
요약하자면
ChatGPT는 브레인스토밍이나 일반적인 텍스트 초안 작성처럼 중요도가 낮은 일부 작업에는 안전할 수 있지만, 개인정보가 보장되지는 않습니다. 민감한 정보를 절대 공유하지 않을 것이라 확신할 수 없다면, ChatGPT 대안을 찾으시는 것이 좋습니다.
다음과 같은 작업에 적합할 수 있습니다:
브레인스토밍
일반적인 텍스트 초안 작성
개념 학습
민감하지 않은 자료
절대 붙여넣지 마세요:
비밀번호
의료 보고서
계약서
소스 코드
신분증
은행 세부사항
법적 전략
| 위험 | 잠재적 영향 | 중요한 이유 |
|---|---|---|
| 데이터 수집 및 로그 기록 | 프롬프트, 파일 업로드 및 상호 작용 패턴이 저장될 수 있음 | AI 학습, 행동 프로파일링 또는 사람의 검토에 사용될 수 있음 |
| 제로 액세스 암호화 부재 | OpenAI 및 파트너가 대화에 접근할 수 있음 | 민감한 데이터 노출 위험 증가 |
| 규제 및 지식재산권(IP) 우려 | GDPR/HIPAA 위반 노출 또는 독점 데이터 유출 | 법적 책임 및 재정적 결과 |
| 폐쇄 소스 시스템 | 데이터 처리 과정의 투명성 부족 | 취약점이나 개인정보 관련 문제를 파악할 방법이 없음 |
| 앱 내 광고 | 추적 및 프로파일링 강화 | 채팅 데이터가 개인 맞춤형 광고에 어떻게 반영되는지 불투명함 |
개인정보 보호 위험
ChatGPT를 사용할 때 귀하가 직면할 수 있는 위험 요소는 다음과 같습니다.
학습에 사용되는 채팅
ChatGPT는 AI 모델을 학습시키기 위해 귀하가 입력하는 정보(예: 질문, 답변, 도구 상호 작용 방식)를 수집할 수 있습니다.
만약 귀하가 개인 데이터가 포함된 이력서, 법률 문서, 의료 보고서 또는 기타 파일을 업로드하는 경우, 해당 콘텐츠 또한 저장 및 처리될 수 있습니다.
추론된 데이터를 사용한 프로파일링
귀하가 이름이나 다른 개인 데이터를 전혀 입력하지 않더라도, 입력하는 프롬프트는 시간이 지남에 따라 건강 문제, 종교적 의문, 정치적 성향, 가족 관계 또는 감정 상태와 같은 패턴을 드러낼 수 있습니다.
이러한 패턴이 귀하의 IP 주소(새 창) 및 기타 기술적 식별자와 결합되면, 상세한 행동 프로필을 구축하는 데 사용될 수 있습니다.
채팅 로그는 여전히 기록됨
귀하의 대화가 AI 학습에 사용되는 것을 방지하기 위해 AI 학습 참여를 거부(opt out)하거나 임시 모드로 ChatGPT를 사용할 수 있습니다.
하지만 귀하의 대화는 여전히 로그에 기록되며, 귀하가 의견을 제출할 때처럼 검토 대상으로 지정되는 경우 민감한 세부사항을 사람이 직접 확인할 수도 있습니다.
제로 액세스 암호화 미적용
귀하의 채팅 기록은 전송 및 저장되는 동안 보호되지만, 제로 액세스 암호화로 보호되지는 않으므로 기업이 귀하의 이전 대화에 접근할 수 있습니다.
또한 해당 데이터는 정부의 데이터 요청 대상이 될 수 있고 제3자에게 노출될 수 있으며, 보안 사고가 발생할 경우 제3자가 접근할 수 있습니다.
비공개 대화가 공개됨
2025년 7월, 공유된 수천 건의 ChatGPT 대화 내용이 Google 검색 결과에 나타나(새 창), 사용자들이 비공개라 생각했을 매우 사적인 대화가 노출되었습니다.
OpenAI는 즉시 이 기능을 중단하고 Google과 협력하여 검색 결과의 인덱싱을 취소하겠다고 밝혔으나, 이 사건은 귀하가 인지하지 못하는 사이에 AI와의 상호 작용 내용이 얼마나 쉽게 대중에게 노출될 수 있는지를 잘 보여줍니다.
앱 내 광고
2026년 초, OpenAI는 무료 요금제 및 ChatGPT Go 요금제 사용자를 대상으로 ChatGPT 광고를 도입했습니다.
광고가 답변에 영향을 미치지 않으며 광고주와 개인 데이터를 공유하지도 않을 것이라는 약속에도 불구하고, 이러한 행보는 초기 개인정보 보호 우려 이후 결국 광고가 일상화되는 거대 IT 기업의 전형적인 패턴을 그대로 따르고 있습니다.
비즈니스 위험
OpenAI는 미국 기업이므로, ChatGPT를 사용하면 데이터 보호에 대한 우려와 민감한 정보의 유출 위험이 발생할 수 있습니다. 귀하가 유럽이나 다른 지역에 거주하더라도, 데이터가 미국 기업에 의해 처리되므로 여전히 미국의 관할권에 속할 수 있습니다. 이것이 의미하는 바는 다음과 같습니다.
기업 데이터 유출
귀하의 기업 데이터로 AI 모델을 학습시키면 유출 위험이 따릅니다. 예를 들어, 직원이 ChatGPT에 독점 코드, 기밀 계약서 또는 고객 정보를 입력하여 지적 재산, 영업 비밀 또는 고객 데이터가 노출될 가능성이 있습니다.
타사 공유
OpenAI는 파트너, 벤더 또는 기타 타사와 데이터를 공유하거나 앱 연동을 통해 데이터를 공유할 수 있으며, 이는 개인정보 보호가 취약하거나 다른 데이터 정책을 적용받을 수 있습니다.
2025년에 OpenAI의 분석 벤더 중 한 곳과 관련된 보안 사고로 인해 API 고객의 식별 정보가 노출되었습니다.
정부 접근
애국법(Patriot Act)이나 해외정보감시법(FISA)과 같은 미국 법률에 따라, 기업은 흔히 사용자에게 통지하지 못하게 하는 비밀 유지 명령과 함께 정부 기관에 데이터를 제공하도록 강제받을 수 있습니다.
투명성 부족
위의 내용들은 알려진 위험들입니다. 하지만 ChatGPT(및 기타 폐쇄 소스 소프트웨어)에서 특히 위험한 점은 귀하가 알 수 없도록 제한되어 있다는 사실입니다:
공공의 감독 부재
ChatGPT 앱의 코드는 오픈 소스가 아니므로, 어떻게 작동하는지, 무엇을 로그로 기록하는지, 또는 보이지 않는 곳에서 귀하의 데이터를 어떻게 처리하는지에 대한 대중의 감시나 책임이 불가능합니다. 귀하는 OpenAI의 정책에 의존해야 하며, 시스템이 책임감 있게 데이터를 처리한다고 믿어야 합니다.
폐쇄 소스 모델
OpenAI가 대중에게 검증될 수 있는 오픈 가중치 모델을 출시하긴 했지만, ChatGPT가 사용하는 AI 모델은 오픈 소스가 아니므로 방대한 데이터세트에서 처음에 어떻게 학습되었는지 확인할 수 없습니다.
ChatGPT를 사용할 때 안전을 지키는 방법
AI 도구를 완전히 피할 필요는 없지만, 이를 개인적인 작업 공간이 아닌 공개형 서비스로 취급해야 합니다. 몇 가지 간단한 습관만으로도 위험을 크게 줄일 수 있습니다:
개인 AI 어시스턴트로 전환하기
Lumo는 단지 AI의 혜택을 누리기 위해 자신의 대화를 수집하고 재사용하는 것을 필수적인 타협점으로 여기지 않는 사람들을 위해 설계된 AI 어시스턴트입니다.
ChatGPT 관련 자주 묻는 질문
- 기밀 정보에 ChatGPT를 사용해도 안전한가요?
- ChatGPT는 종단간 암호화되나요?
- ChatGPT 사용의 위험 요소는 무엇인가요?
- ChatGPT에 절대 말해서는 안 되는 5가지는 무엇인가요?
- ChatGPT가 귀하의 데이터를 유출하나요?
- ChatGPT가 귀하의 사진을 보관하나요?
