언론의 헤드라인은 종종 AI 이미지 생성 도구가 만들어낸 놀랍도록 사실적인 결과에 초점을 맞추지만, 그러한 딥페이크가 실제로 어떻게 생성되고 어떤 비용이 드는지는 거의 강조하지 않습니다.
많은 딥페이크는 일반적인 사진, 동영상 및 음성 녹음으로 만들어집니다. 이는 우리가 기꺼이 업로드하고 Instagram이나 Facebook과 같은 소셜 미디어 및 Google 드라이브나 OneDrive와 같은 클라우드 저장공간에 공개적으로 제공하는 일상적인 콘텐츠입니다.
우리가 거의 고려하지 않는 것은 이러한 디지털 흔적이 우리의 지식이나 동의 없이 딥페이크를 생성하는 것을 포함하여 우리가 전혀 의도하지 않은 방식으로 재사용될 수 있다는 것입니다. 이는 대개 온라인에 어떻게 나타나는지에 대한 개인정보 및 제어권을 잃는 것을 의미하며, 사기, 신원 도용, 괴롭힘, 사이버 폭력, 평판 손상, 정서적 고통으로 이어질 수 있으며 종종 돌이킬 수 없는(새 창) 결과를 초래합니다.
Sweet Anita 사건과 같은 동의 없는 딥페이크 이미지는 심각한 형태의 학대가 되었습니다. 미국에서 DEFIANCE Act(새 창)는 피해자를 위한 법적 구제를 강화하는 것을 목표로 하며, Take It Down Act(새 창)는 온라인에서 유해한 콘텐츠를 더 빨리 제거하는 데 중점을 둡니다.
EU에서는 X에서 Grok이 (여성 및 미성년자를 포함한) 성적 딥페이크 이미지를 생성하는 데 사용되었다는 보도로 인해 개인정보 규제 당국이 조사에 착수(새 창)하여 이것이 GDPR 데이터 보호법을 위반할 수 있는지 여부를 확인했습니다. 동시에 스페인(새 창)과 같은 국가들은 동의 없는 딥페이크를 범죄화하는 국가 법안을 추진하고 있습니다.
딥페이크 기술이 진화하는 속도(종종 무엇이 진짜인지 구분하기 어려울 정도)를 법이 따라잡을 때까지는 사진, 동영상 및 음성 녹음을 보호하는 데 선제적으로 대처하는 것이 중요합니다. 오용을 예방하는 것은 나중에 발생할 파장을 처리하는 것보다 훨씬 쉽습니다.
딥페이크를 예방하는 방법
딥페이크는 세 가지에 따라 달라집니다. 데이터의 품질, 사용 가능한 데이터의 양, 그리고 얼마나 쉽게 접근할 수 있는지입니다. 딥페이크로부터 스스로를 보호하는 방법은 다음과 같습니다.
공개적으로 공유할 내용을 신중하게 선택하세요
고해상도 콘텐츠가 많을수록 사실적인 복제가 더 쉬워집니다. 자신에 대한 고품질 미디어가 공개적으로 사용 가능해지는 양을 줄이는 방법은 다음과 같습니다.
- 특히 각도와 조명이 일정한 얼굴의 HD 클로즈업 사진이나 길고 비우기 동영상을 포스트하는 것을 피하세요.
- 더 이상 온라인에 필요하지 않은 오래된 공개 미디어를 삭제하세요.
- 공개 계정과 개인 계정을 최대한 분리하세요.
- 다른 사람들에게 동의 없이 귀하의 미디어를 태그하거나 업로드하지 말라고 요청하세요.
- 앱 권한을 검토하고 카메라 롤에 접근할 수 있는 사용하지 않는 타사 앱을 삭제하세요.
공개 사진과 동영상을 재사용하기 어렵게 만드세요
사진이나 동영상을 공개적으로 공유할 때 AI 시스템이 이를 복사, 분석 및 재사용하기 어렵게 만드는 방법이 있습니다. 이러한 방법이 딥페이크나 AI 훈련을 완전히 예방하지는 않지만 오용을 막을 수 있습니다.
- 누군가의 신원을 보기할 필요가 없을 때 사진에서 얼굴을 흐리게 하거나 숨기기하세요.
- 이미지 또는 동영상에 워터마크를 표시하세요.
- Glaze 및 Nightshade와 같은 클로킹 및 데이터 포이즈닝 도구를 사용하세요. 이렇게 하면 스크랩한 이미지가 AI 훈련에 덜 유용해집니다. 또한 허가 없이 AI가 사용자의 예술 작품으로 훈련하는 것을 방지하는 데 도움이 되지만, AI 시스템이 발전함에 따라 약화될 수 있음이 연구 결과로 보기되었습니다.
- Have I Been Trained(새 창)와 같은 웹사이트는 귀하의 사진이 AI 모델 훈련에 사용된 알려진 데이터 세트에 나타나는지 확인하는 데 도움이 됩니다.
- EU의 GDPR(새 창)과 같은 데이터 보호법은 회사에서 귀하의 콘텐츠를 AI 훈련에 사용하지 않도록 요청하는 데 도움이 될 수 있습니다. 예를 들어, Facebook, Instagram 및 WhatsApp에서 데이터를 사용하는 Meta AI를 거부할 수 있습니다.
소셜 미디어에서 개인정보 보호 제어를 조정하세요
이러한 제어 중 상당수는 간과하기 쉽지만 낯선 사람과 데이터 스크래퍼에게 콘텐츠가 표시되는 양을 제한하는 데 실질적인 차이를 만들 수 있습니다.
- 가능한 한 계정을 개인으로 설정하세요.
- 과거 및 미래의 포스트를 볼 수 있는 사람을 제한하세요(전체 공개 대신 친구만 허용).
- 콘텐츠를 다운로드, 공유하거나 재포스팅할 수 있는 사람을 제한하세요.
- 플랫폼에서 얼굴 인식 기능을 제공하는 경우 끄세요.
- 태그된 포스트를 반드시 승인하도록 태그 설정을 제어하세요.
- 이메일 또는 전화번호를 사용하여 나를 찾을 수 있는 사람을 제한하세요.
플랫폼 자체는 여전히 귀하의 데이터에 접근하고 자체 약관에 따라 처리할 수 있음을 기억하세요. 그렇기 때문에 개인정보 보호 및 AI 사용 정책을 때때로 검토할 가치가 있습니다. 데이터가 사용되는 양에 불편함을 느낀다면 업로드하는 내용을 제한하거나 해당 플랫폼을 아예 사용할지 여부를 고려하세요.
예를 들어, Meta는 모든 Meta AI 상호 작용을 사용하여 타겟팅 광고를 만들고 AI 시스템을 개선할 수 있습니다. 따라서 자신의 이미지를 첨부하고 Meta AI에게 재밌는 버전을 생성해 달라고 요청하는 것처럼 친구와의 개인 대화처럼 느껴지는 곳에서 공유한 콘텐츠가 AI 데이터 세트에 들어가 이미지에 대해 통제력을 잃을 수 있습니다.
개인정보를 존중하는 도구를 선택하세요
일부 앱은 가능한 한 적은 개인 데이터를 수집하도록 설계되었으며 콘텐츠가 어떻게 저장됨 상태로 공유되는지에 대한 제어권을 제공합니다. 이는 디지털 주권의 중요한 부분입니다. 딥페이크는 주로 자신에 대해 공유하기로 선택한 것에 크게 의존하기 때문에 단일 도구로는 딥페이크를 완전히 막을 수 없습니다. 그러나 Proton 에코시스템과 같이 개인정보 보호에 초점을 맞춘 서비스는 귀하의 사진, 동영상 및 음성 녹음이 대중에게 접근 가능해지거나 AI 훈련에 사용할 수 있는 양을 제한하는 데 도움이 될 수 있습니다.
Proton Drive는 종단 간 암호화를 사용하는 안전한 무료 클라우드 저장공간 및 파일 공유 서비스입니다. 이는 귀하와 명시적으로 파일을 공유한 사람만이 데이터에 접근할 수 있으며, Proton조차 접근할 수 없음을 의미합니다. 더 작은 그룹의 경우 제한된 이메일 초대를 통해 또는 비밀번호로 보호하고 자동으로 만료되도록 설정할 수 있는 안전한 공개 링크를 통해 파일, 사진 또는 앨범을 공유할 수 있습니다. Proton Drive를 사용하면 다운로드를 쉽게 추적하고 언제든지 접근을 취소할 수 있습니다.
가끔 디지털 발자국을 확인하세요
디지털 발자국은 시간이 지남에 따라 수동적으로 커집니다. 지금 조심하더라도 오래된 포스트, 녹음 파일, 태그된 사진 또는 보관함 미디어가 사용자가 눈치채지 못하는 사이에 다시 나타나 대중에게 공개된 상태로 남아 있을 수 있습니다. 게다가 플랫폼에서 기본 개인정보 보호 설정을 변경할 수도 있습니다.
몇 달에 한 번씩 온라인에서 딥페이크를 만드는 데 사용할 수 있는 자신에 대한 어떤 정보가 있는지 확인해야 합니다. 방법은 다음과 같습니다.
- 주기적으로 검색 엔진에서 자신의 이름과 이미지를 검색하세요.
- 포스트의 가시성을 검토하세요.
- 팔로워 또는 연락처 목록에 낯설거나 의심스러운 계정이 있는지 검토하세요.
- 오래된 콘텐츠를 삭제하거나 더 적은 사람들에게만 표시되도록 제한하세요.
- 사용하지 않는 계정을 닫기하세요.
- 플랫폼 업데이트 후 개인정보 기본 설정 및 AI 훈련 설정을 다시 확인하세요.
가족을 위한 딥페이크 예방 팁
누군가의 현실적인 디지털 프로필을 만드는 데는 단 20장의 사진이나 30초짜리 동영상만 있으면 됩니다. 즉, 일상적인 가족 사진, 학교 동영상, 음성 메모 또는 소셜 미디어 포스트가 의도치 않게 딥페이크 도구의 훈련 자료가 될 수 있다는 뜻입니다.
가족을 위한 딥페이크 예방은 엄격한 통제나 두려움에 관한 것이 아니라, 특히 장기적인 온라인 위험을 아직 완전히 이해할 수 없는 어린이들에게 있어 인식, 소통, 신중한 공유 습관을 들이는 것입니다.
포스트하기 전에 묻고, 대상을 생각하고, 생체 데이터가 어떻게 재사용될 수 있는지 이해하는 등 아이들이 일찍부터 훌륭한 디지털 본능을 개발하도록 돕는 것은 지속적인 차이를 만들 수 있습니다. 그리고 성인의 경우, 공개적으로 공유할 항목과 비공개로 공유할 항목을 의도적으로 결정하면 추억을 보존하면서 불필요한 노출을 줄이는 데 도움이 됩니다.
가족이 명심해야 할 딥페이크 예방 기술은 다음과 같습니다.
상위의 경우
- 특히 공개 앨범, 기념일 포스트, 식별 가능한 학교 및 국가 세부사항과 같은 셰어런팅을 피하세요.
- 아이들이 자라면서 얼굴이 변하더라도 오래된 이미지는 여전히 AI 모델 훈련에 사용될 수 있으므로 공개 사진 보관함을 줄이는 것이 좋습니다.
- 공개 소셜 미디어 대신 Signal의 가족 채팅이나 Proton Drive의 개인 앨범과 같은 개인 공유 채널을 사용하세요.
- 자신의 계정에 대한 개인정보 보호 설정 및 태그 권한을 정기적으로 검토하세요.
- 허락 없이 아이를 공개적으로 포스트하거나 다시 포스트하지 않도록 친척, 친구, 교육자와 터놓고 이야기하세요.
- 학교, 클럽, 스포츠 팀, 사진작가 등 다른 사람들이 사진을 공유할 수 있는 곳을 주의 깊게 살펴보고 가능한 경우 옵트아웃하세요.
어린이와 청소년을 위한 팁
- 포스팅하기 전에 생각해보세요: 이 사진이나 동영상이 친구 이외의 사람에게 퍼져도 괜찮을까요?
- 바이럴 챌린지, 얼굴 필터 앱 또는 AI 아바타 앱에 주의하세요.
- 사진 및 동영상과 함께 개인 세부사항(학교, 주소, 일상 포함)을 공유하지 마세요.
- 친구에 대한 내용을 포스트하기 전에 친구에게 먼저 물어보고, 자신도 동일한 존중을 받기를 기대하세요.
- 무언가를 삭제해도 항상 사본이 함께 삭제되는 것은 아님을 이해하세요. 처음부터 포스트하지 않는 것이 더 안전합니다.
- 온라인에서 불편한 점이 느껴진다면 그 직감을 믿으세요. 누군가 사진, 음성 클립, 또는 비정상적인 콘텐츠를 요구한다면 상위나 신뢰됨 어른에게 말하세요.
디지털 신원에 대한 제어권을 유지하세요
딥페이크는 신원, 개인정보, 온라인에서 사람과 회사에 대한 신뢰가 작용하는 방식을 재편하고 있습니다. 법률과 플랫폼 정책은 진화하고 있지만 기술 자체보다 느리게 움직이는 경우가 많으므로 귀하와 주변 사람들 모두에게 인식과 선제적인 디지털 습관이 그 어느 때보다 중요합니다.
무엇을 공유하고, 어디에 저장하고, 누가 접근할 수 있는지 신중하게 생각한다고 해서 위험이 완전히 없어지지는 않지만 실질적인 변화를 가져올 수 있습니다. 제어 및 개인정보 보호에 대한 이러한 초점은 사람들이 온라인에서 데이터를 주도적으로 관리할 수 있도록 돕는 도구를 구축하는 Proton 임무의 핵심입니다.
