वो मर्दों को ऑनलाइन दिखी चीज़ों पे यकीन हुआ: एक वेबसाइट, जो उसके चेहरे को किसी और के शरीर पे दिखाने वाली अश्लील AI-जनित तस्वीरों से भरी थी, और उसके साथ उसके असली घर का पता भी। वेबसाइट पे ये दावा किया गया था कि उसका घर एक वेश्यालय था।

Sweet Anita, Twitch की सबसे पहचाने जाने वाली स्ट्रीमर में से एक, ऑनलाइन औरत होने के जोखिम समझती थी और एहतियात भी बरतती थी। उसने अपना असली नाम छिपा दिया, हदें तय कीं और एक टीम रखी। लेकिन इनमें से किसी चीज़ ने किसी को उसका डीपफेक बनाने से नहीं रोका।

आगे जो हुआ, उसके लिए वो बिल्कुल तैयार नहीं थी।

Sweet Anita की कहानी

एक गुमनाम आदमी ने उसकी AI-जनित पोर्नोग्राफी बनवाई, फिर एक नकली वेबसाइट बनाई जिसमें उसे सेक्स वर्कर के तौर पे पेश किया गया — और उसके घर का पता भी डाल दिया गया। पूरा सेटअप मर्दों को उसके घर तक खींचने के लिए बनाया गया था, ताकि उन्हें ये गलत उम्मीद हो कि वो उसके साथ ज़बरदस्ती सेक्स करा सकते हैं। उसने कहा, “इसके बाद मुझे मर्द मेरे घर आने लगे, खासकर जब मैं लाइवस्ट्रीम करती और घर से दूर रहती। मुझे अपने ही घर में सुरक्षित महसूस नहीं होता।”

डफल बैग लेकर आए अजनबियों ने घुसने की कोशिश की। डाकिए से डाक लेने से वो डरती थी। उसे दरवाज़ा खोलना और घर बिना किसी के छोड़कर जाना बंद करना पड़ा। वो पहले भी घर बदल चुकी है, लेकिन वो लोग उसे ढूंढते ही रहे।

और ये शोषण सिर्फ उसके दरवाज़े तक सीमित नहीं था। उसकी गुज़र चुकी मां, जिन्हें अपनी बेटी के काम पे गर्व था, Anita के सोशल मीडिया को चेक करती और अश्लील AI-जनित तस्वीरों को स्क्रॉल करके पार करने के लिए मजबूर होती। दोस्तों और सहकर्मियों ने भी इन्हें देखा। उसने कहा, “मैं YouTube, Twitch, अपने सारे सोशल अकाउंट्स से सब कुछ मिटा दें — यानी मिटा सकती थी — और फिर भी वीडियो में मेरे चेहरे की ढेर सारी तस्वीरें रेफरेंस के तौर पे इस्तेमाल हो सकती थीं।”

डीपफेक बन गए हैं नई बदमाशी

डीपफेक AI का इस्तेमाल करके लोगों की हाइपर-रियलिस्टिक तस्वीरें और वीडियो बिना उनकी सहमति बनाते हैं। अक्सर ये सेक्शुअल शोषण, परेशान करने या धमकाने के लिए बनाए जाते हैं। ज़्यादातर पीड़ित औरतें और लड़कियां ही हैं।

Girlguiding की रिसर्च के मुताबिक(नई विंडो), चार में से एक से ज़्यादा किशोर कहते हैं कि उन्होंने किसी जाने-पहचाने इंसान का अश्लील डीपफेक देखा है — कोई क्लासमेट, टीचर, दोस्त या यहां तक कि खुद उनका। CNN की रिपोर्ट(नई विंडो) के मुताबिक, 40% स्टूडेंट्स और 29% टीचरों ने कहा कि पिछले साल उन्हें अपने स्कूल से कनेक्ट किसी के डीपफेक का पता था, और 15% स्टूडेंट्स ने कहा कि उन्होंने अश्लील वर्ज़न देखे थे। ज़्यादातर स्कूलों के पास इस तरह के शोषण से निपटने की नीति नहीं है।

नुकसान बहुत गंभीर हैं। पीड़ितों को एंग्जायटी, डिप्रेशन और यहां तक कि PTSD भी हो सकता है। वो सामाजिक तौर पे अलग-थलग हो सकते हैं, दोस्त खो सकते हैं, या नौकरी या कॉलेज के लिए अप्लाई करने से बच सकते हैं, क्योंकि खोज के दौरान अश्लील नकली तस्वीरें सामने आ सकती हैं। कुछ लोगों को तो कंटेंट इंटरनेट से हटवाने के लिए पैसे खर्च करने तक पड़ते हैं।

World Economic Forum बताता है(नई विंडो) कि डीपफेक ने बहुतों के डर के उलट चुनावों को अस्थिर नहीं किया, लेकिन वो परेशान करने और स्कैम का एक हथियार बन गए हैं। बिना सहमति वाली पोर्नोग्राफी इसका सबसे गंभीर रूप है, लेकिन हमलावर क्लोन की गई आवाज़ें और नकली वीडियो कॉल का इस्तेमाल करके धोखाधड़ी भी करते हैं। 2024 में Hong Kong के एक फाइनेंस वर्कर को एक Zoom कॉल में शामिल होने के बाद $25 मिलियन चुकाने के लिए बेवकूफ बनाया गया, जिसमें CFO समेत हर शख्स एक डीपफेक था(नई विंडो)।

“बाकी ज़िंदगी के लिए मुझे कोई तरीका नहीं दिखता जिससे मैं खुद इससे बच सकूं,” Anita ने कहा। “और मुझे नहीं लगता कि इसकी ज़िम्मेदारी भी मेरी होनी चाहिए। ये मेरी समस्या नहीं है, और ये मेरा दोष नहीं है।”

ये किसी के साथ भी हो सकता है

बस कुछ ही तस्वीरें चाहिए। एक पब्लिक Instagram। एक स्कूल की तस्वीर। एक शेयर किया हुआ एल्बम। एक बार चेहरा ऑनलाइन आ गया, तो उसे कॉपी, स्क्रैप और गलत इस्तेमाल किया जा सकता है।

University of Warwick के Cyber Security Centre के प्रोफेसर Carsten Maple के मुताबिक, आज के AI टूल्स के साथ बस 20 तस्वीरें भी किसी की रियलिस्टिक प्रोफाइल बनाने के लिए काफी हैं, या यहां तक कि 30 सेकेंड की वीडियो भी, जिससे संभावित खतरों का दायरा और बढ़ जाता है, एक ऐसा फैक्ट जो हाल में सर्वे किए गए 53% माता-पिता को नहीं पता था

The New York Times ने तथाकथित “न्यूडिफायर ऐप्स” के बढ़ते चलन पे रिपोर्ट की है(नई विंडो), जो AI का इस्तेमाल करके तस्वीरों से कपड़े हटा सकते हैं। ये ऐप सस्ते, इस्तेमाल में आसान और आसानी से उपलब्ध हैं। जांचकर्ताओं का अनुमान है कि ये इंडस्ट्री सालाना करीब $36 मिलियन कमाती है। एक नए US कानून के बावजूद, जो बिना सहमति के नकली न्यूड पोस्ट करना गैरकानूनी बनाता है, खुद ये ऐप कानूनी ही रहते हैं। Alexios Mantzarlis, जिसकी टीम ने 85 ऐसी साइटों की जांच की, ने New York Times को बताया, “इंटरनेट तक एक्सेस रखने वाला कोई भी बच्चा पीड़ित भी बन सकता है और अपराधी भी।”

निजी खाते सुरक्षा की गारंटी नहीं हैं। शोषण करने वाले अक्सर वही लोग होते हैं जिन्हें पीड़ित जानता है। यहां तक कि बर्थडे पार्टी जैसे बेगुनाह लगने वाले पोस्ट भी ऐसी जानकारी उजागर कर सकते हैं जो पहचान की चोरी को बढ़ावा देती है, जिसका शिकार 2024 में अनुमान के मुताबिक 1.1 मिलियन बच्चे हुए।

“जो लोग [डीपफेक बनाते हैं] वो अक्सर भूल जाते हैं कि ये घिनौना और गैर-मुनासिब है — यानी अगर उनके सहकर्मी और दोस्त जानते, तो उन्हें नौकरी से निकाल दिया जाता और लोग उनसे रिश्ता तोड़ लेते। वो अपने सारे जानने वालों को खो देते, उनके माता-पिता उनसे नाराज़ होते, है ना?” उसने कहा। “लेकिन जब आप ऑनलाइन होते हैं और मिलते-जुलते कुछ हरामखोरों के साथ एक-दूसरे के लिए ये मटीरियल बनाते हैं, तो उनके लिए ये बस एक शौक और वक्त गुज़ारने का तरीका बन जाता है। वो इस असर से पूरी तरह बच निकलते हैं, भूल जाते हैं और भ्रम में रहते हैं कि इसका लोगों की ज़िंदगी पे क्या असर पड़ता है।”

डीपफेक का खतरा सोशल मीडिया से कहीं आगे तक है

आज सबसे बड़ा खतरा शायद उस चीज़ से है जो सोशल मीडिया पे शेयर की जाती है। लेकिन उन सारी तस्वीरों का क्या, जिन्हें आप शेयर ही नहीं करते?

Google, Apple, Amazon और बाकी कंपनियां आपकी तस्वीरों के लिए क्लाउड स्टोरेज देती हैं — जैसे Google Drive, iCloud और Amazon Web Services (AWS) — कभी-कभी बिल्कुल मुफ्त। लेकिन इस आसानी की भी कीमत चुकानी पड़ती है। Google कम से कम 2015 से आपकी तस्वीरों का इस्तेमाल AI को ट्रेन करने के लिए कर रहा है — उस साल एक काले जोड़े को “गोरिल्ला” के तौर पे क्लासिफाई करने के लिए उसे माफी मांगनी पड़ी थी(नई विंडो)। तब से, सारे बड़े स्टोरेज प्रोवाइडर चेहरे की पहचान में काफी बेहतर हो गए हैं। आपको क्या लगता है, ऐसा कैसे हुआ? ज़्यादा तस्वीरें, जो लगातार AI को खिलाई जा रही हैं।

Big Tech के पास स्टोर किए जा रहे अरबों तस्वीरें और वीडियो मटीरियल का एक विशाल भंडार हैं, जो किसी दिन अविश्वसनीय रूप से विस्तृत और जीते-जागते डीपफेक बनाने का ईंधन बन सकते हैं।

बस सेवा की शर्तों में चुपचाप किया गया एक बदलाव काफी है।

अपनी यादों को उसी तरह सुरक्षित रखें जैसे अपने पासवर्ड को रखते हैं

दूसरे लोग आपकी तस्वीर का क्या करें, ये आपके हाथ में नहीं है। लेकिन ये आपके हाथ में है कि आपकी तस्वीरें कहां रहती हैं और उन तक किसका एक्सेस है। Proton Drive आपको सबसे कीमती तस्वीरों और फ़ाइलों को स्टोर करने का एक निजी, एन्क्रिप्ट किया तरीका देता है।

5 जीबी मुफ्त क्लाउड स्टोरेज के साथ शुरू करें
  • शुरु-से-अंत तक एन्क्रिप्शन: आपकी फ़ाइलें आपके डिवाइस से निकलने से पहले ही एन्क्रिप्ट की जा जाती हैं। Big Tech के उलट, Proton खुद भी इन्हें नहीं देख सकता।
  • डिफॉल्ट रूप से निजी: आपका डाटा कभी बेचा, शेयर किया या AI को ट्रेन करने के लिए इस्तेमाल नहीं जाता।
  • सुरक्षित शेयरिंग: पासवर्ड जोड़ें, समय खत्म होने की तारीख सेट करें और कभी भी एक्सेस वापस लें।
  • ऑटोमैटिक फोटो बैकअप: अगर आपका फोन खो जाए या चोरी हो जाए, तब भी आपकी यादें सुरक्षित रहती हैं।

Proton Drive के साथ आपका डाटा हमेशा आपका ही रहता है।