OpenAI는 청소년용 ChatGPT가 어린 사용자를 위해 AI를 더 안전하게 만들어 줄 것이라고 말합니다. 이번 출시는 ChatGPT가 어린이에게 안전한지에 대한 소송이 진행되는 가운데 이루어졌습니다. 하지만 아동 안전 전문가들은 회사가 자사의 보호 조치가 실제로 효과가 있음을 여전히 증명해야 한다고 말합니다. 귀하가 알아두어야 할 사항은 다음과 같습니다.
2026년 8월에 출시된 청소년용 ChatGPT는 사용자가 18세 미만으로 식별될 때 자동으로 기본 적용되는 연령 제한 환경입니다. 활성화되면 더 엄격한 콘텐츠 규칙이 적용되며, 일부 경우에는 연결된 계정을 보유한 부모에게 알림을 보냅니다.
하지만 아동 안전 전문가들은 회의적입니다. Common Sense Media의 Robbie Torney는 Engadget(새 창)에 OpenAI가 중요한 안전 약속을 제시하고 있지만, 그것이 실제로 효과가 있다는 증거가 필요하다고 밝혔습니다.
Fairplay의 Josh Golin은 안전장치가 서류상으로는 유망해 보일 수 있지만 책임성이 부족하며, 신중하게 테스트된 안전 시스템이라기보다는 홍보성 대응에 그칠 위험이 있다고 말했습니다. 두 사람 모두 연령을 추정하는 시스템 자체에 의문을 제기했으며, Golin은 자살, 폭력, 약물 사용에 대한 ChatGPT의 기존 제한 조치들이 시간이 지남에 따라 실패하거나 약화되었다고도 경고했습니다.
청소년용 ChatGPT의 작동 방식
ChatGPT는 다음과 같은 계정 및 행동 신호를 결합하여 계정이 18세 미만의 사용자에게 속할 가능성이 있는지 추정합니다:
- 사용자가 제공한 연령
- 계정이 유지된 기간
- 논의된 일반적인 주제
- 일반적인 활동 시간대
- 시간 경과에 따른 계정 사용 방식의 변화
모델이 계정이 미성년자의 것일 수 있다고 예측하면, ChatGPT는 해당 계정을 로맨틱한 표현, 정서적 의존, 자해 콘텐츠 및 섭식 장애에 관한 대화 제한을 포함하여 더 엄격한 보호 조치가 적용되는 청소년용 ChatGPT 환경으로 자동 전환합니다.
부모 계정과 연결된 청소년의 경우, OpenAI는 대화에서 자해 위험이 감지될 때 알림을 보낼 수도 있습니다. 회사는 Engadget에 알림이 전송되기 전에 플래그가 지정된 모든 대화를 OpenAI 정직원이 검토할 것이며, 프롬프트 입력 후 한 시간 이내에 부모에게 알리는 것을 목표로 하고 있다고 밝혔습니다. 이는 대규모 환경에서 OpenAI가 실행할 수 있을지 아동 안전 전문가들이 의문을 제기하는 대단히 야심찬 약속입니다.
청소년 환경으로 잘못 지정된 성인은 타사 연령 인증 서비스인 Persona를 통해 연령을 확인할 수 있습니다. 국가에 따라 Persona는 실시간 셀카, 정부 발급 신분증 또는 둘 다를 요청할 수 있습니다.
AI에 다가오는 연령 인증
더 강력한 안전장치는 제대로 작동하기만 한다면 좋은 일이 될 수 있습니다. 하지만 누구에게 이를 적용할지 결정하는 데는 개인정보 보호 비용이 따릅니다. 이것이 바로 AI 감시입니다. ChatGPT는 사람들이 무엇을 이야기하는지, 서비스를 언제 사용하는지, 시간이 지남에 따라 어떻게 사용하는지를 분석하여 사람들을 분류합니다.
미성년자로 잘못 분류된 성인은 Persona를 통해 연령을 인증해야 할 수 있습니다. OpenAI는 셀카나 신분증 자체를 수신하지 않으며 Persona가 업로드된 자료를 7일 이내에 삭제한다고 밝혔습니다. 그럼에도 불구하고 전체 접근 권한을 복원하려면 사용자가 민감한 신원 정보를 타사 인증 서비스에 제공해야 할 수 있습니다.
기반이 되는 보호 조치가 입증되지 않은 상태에서는 이러한 개인정보 보호의 절충을 정당화하기가 더 어렵습니다. 아동 안전 전문가들이 경고했듯이, OpenAI는 자사의 연령 예측 시스템, 콘텐츠 안전장치 또는 부모 알림이 대규모 환경에서 안정적으로 작동할 것임을 아직 입증하지 못했습니다. 또한 십대 청소년들은 Discord를 포함한 다른 플랫폼에서 연령 확인을 우회하는 기발한 방법을 찾아냈으며, ChatGPT에서도 동일하게 행동할 수 있습니다.
청소년용 ChatGPT는 모든 연령대의 사용자에게 신원과 행동에 대한 더 많은 정보를 제공하도록 요구할 수 있는 대규모 언어 모델(LLM) 접근 조건으로 연령 예측 및 확인을 일상화할 위험도 있습니다. 이는 소셜 미디어 플랫폼 및 성인 웹사이트와 함께 LLM을 연령 확인 법률의 확산을 주도하는 또 다른 온라인 서비스 범주로 만들 수 있습니다. EU AI 법과 같은 AI 규제가 마련됨에 따라, 연령 확인은 챗봇에서도 표준 요구 사항이 될 가능성이 높습니다.
귀하의 개인정보를 보호하는 더 안전한 AI 어시스턴트
Lumo는 차별화된 개인 정보 보호 AI 어시스턴트입니다. 사용 방식을 기반으로 귀하의 연령을 추정하지 않으며, 귀하의 대화를 기록하거나 귀하의 데이터를 학습에 활용하지 않습니다. 당사는 귀하의 대화를 스캔하거나 타인과 공유하지 않으며, 이 정책은 Proton의 다른 제품을 보호하는 동일한 제로 액세스 암호화 원칙에 의해 뒷받침됩니다.
13세 이상이면 누구나 사용할 수 있으며 미성년자의 경우 부모 동의가 필요하고, 내부적으로 작동하는 프로파일링 메커니즘이 없습니다. 개인정보 보호를 중심으로 구축된 ChatGPT 대안을 찾고 계신다면 여기서 시작해 보세요.
AI 도구가 귀하의 데이터를 어떻게 수집하고 사용하는지 더 자세히 알아보고 싶으시다면, Proton의 AI 가이드에서 감시, 보안 및 개인정보 보호 관행을 확인해 보세요.
