OpenAI कहता है कि ChatGPT for Teens युवा उपयोगकर्ताओं के लिए AI को ज़्यादा सुरक्षित बनाएगा। ये लॉन्च उन मुक़दमों के बीच होता है जिनमें सवाल उठा है कि बच्चों के लिए ChatGPT सुरक्षित है या नहीं। लेकिन बच्चों की सुरक्षा के विशेषज्ञ कहते हैं कि कंपनी को अभी भी ये साबित करना है कि उसके सुरक्षा उपाय वाकई काम करते हैं। यहां वो बातें हैं जो आपको जाननी चाहिए।

अगस्त 2026 में लॉन्च हुआ ChatGPT for Teens एक आयु-आधारित अनुभव है, जो अपने आप डिफॉल्ट बन जाता है जब किसी उपयोगकर्ता को 18 साल से कम उम्र का पाया जाता है। एक बार चालू होने के बाद, ये ज़्यादा सख्त कंटेंट नियम लागू करता है और कुछ मामलों में लिंक किए गए मुख्य खाते वाले अभिभावकों को अलर्ट भेजता है।

लेकिन बच्चों की सुरक्षा के विशेषज्ञ इस पे शक करते हैं। Common Sense Media के Robbie Torney ने Engadget(नई विंडो) को बताया कि OpenAI सुरक्षा के महत्वपूर्ण वादे करता है, लेकिन उसे सबूत चाहिए कि ये वाकई काम करते हैं।

Josh Golin of Fairplay ने कहा कि सुरक्षा उपाय कागज पे आशाजनक लग सकते हैं, लेकिन उनमें जवाबदेही की कमी है, और ये किसी ध्यान से टेस्ट की गई सुरक्षा प्रणाली से ज़्यादा PR जवाबी कार्रवाई जैसे होने का खतरा रखते हैं। दोनों ने उसी सिस्टम पे सवाल उठाए जो उम्र का अंदाज़ा लगाता है, और Golin ने ये भी चेताया कि ChatGPT की आत्महत्या, हिंसा और नशीले पदार्थों के इस्तेमाल पे मौजूदा पाबंदियां समय के साथ असफल हो चुकी हैं या कमज़ोर हो गई हैं।

ChatGPT for Teens कैसे काम करता है

ChatGPT खाते और व्यवहार संबंधी संकेतों को मिलाकर अंदाज़ा लगाता है कि कोई खाता संभवतः 18 साल से कम उम्र के किसी शख़्स का है, जिनमें शामिल हैं:

  • उपयोगकर्ता द्वारा दी गई उम्र
  • खाता कब से मौजूद है
  • चर्चा किए गए आम विषय
  • गतिविधि के आम समय
  • समय के साथ खाते के इस्तेमाल का विकास कैसा हो रहा है

जब मॉडल अंदाज़ा लगाता है कि खाता किसी नाबालिग का हो सकता है, तो ChatGPT उस खाते को अपने आप ChatGPT for Teens अनुभव में बदल देता है, जहां ज़्यादा सख़्त सुरक्षा उपाय लागू होते हैं, जिनमें रोमांटिक भाषा, भावनात्मक निर्भरता, ख़ुद को नुक़सान पहुंचाने वाले कंटेंट, और खाने की बीमारियों के बारे में बातचीत पे पाबंदियां शामिल हैं।

उन किशोरों के लिए जिनके खाते किसी मुख्य खाते से लिंक हैं, जब कोई बातचीत ख़ुद को नुक़सान पहुंचाने का ख़तरा दिखाती है, तो OpenAI अलर्ट भेज सकता है। कंपनी ने Engadget को बताया कि अलर्ट भेजने से पहले हर फ़्लैग की गई बातचीत की जांच एक फ़ुल-टाइम OpenAI कर्मचारी करेगा, और लक्ष्य है कि प्रॉम्प्ट के एक घंटे के भीतर अभिभावकों को सूचित किया जाए। ये एक बेहद महत्वाकांक्षी वादा है, जिसे बच्चों की सुरक्षा के विशेषज्ञ बड़े पैमाने पर पूरा होने में शक करते हैं।

वे वयस्क जो ग़लती से teen अनुभव में डाल दिए गए हैं, वो Persona नाम की तीसरें-पार्टी आयु सत्यापन सेवा से अपनी उम्र की पुष्टि कर सकते हैं। देश के हिसाब से, Persona लाइव सेल्फ़ी, सरकार द्वारा जारी की गई ID, या दोनों मांग सकती है।

AI के लिए आयु सत्यापन आ रहा है

ज़्यादा सख़्त guardrails अच्छी चीज़ हो सकती हैं, बशर्ते वो काम करें। लेकिन ये तय करने में कि उन्हें कौन मिलेगा, निजता की क़ीमत चुकानी पड़ती है। ये AI निगरानी है: ChatGPT लोगों को इस बात का विश्लेषण करके वर्गीकृत करता है कि वो क्या चर्चा करते हैं, सेवा का इस्तेमाल कब करते हैं और समय के साथ कैसे करते हैं।

वयस्क जिन्हें ग़लती से नाबालिग वर्गीकृत किया गया हो, उन्हें Persona के ज़रिए अपनी उम्र की पुष्टि करनी पड़ सकती है। OpenAI कहता है कि उसे सेल्फ़ी या ID ख़ुद नहीं मिलती, और Persona अपलोड की गई सामग्री को सात दिनों के भीतर मिटा देती है। फिर भी, पूरा एक्सेस दोबारा पाने के लिए उपयोगकर्ताओं को किसी तीसरें-पार्टी सत्यापन सेवा को अपनी संवेदनशील पहचान की जानकारी देनी पड़ सकती है।

ये निजता का समझौता तब और मुश्किल से जायज़ होता है जब असली सुरक्षा उपाय अभी भी असत्यापित हों। जैसा बच्चों की सुरक्षा के विशेषज्ञों ने चेताया है, OpenAI ने अभी तक ये नहीं दिखाएं कि उसकी आयु-अनुमान प्रणाली, कंटेंट सुरक्षा उपाय या मुख्य अलर्ट बड़े पैमाने पर भरोसेमंद तरीके से काम करेंगे। इसके अलावा, किशोरों ने दूसरे प्लैटफॉर्म पे, जिनमें Discord शामिल है, आयु जांच के इर्द-गिर्द जाने के रचनात्मक तरीके निकाले हैं, और वो ChatGPT के साथ भी यही कर सकते हैं।

ChatGPT for Teens से बड़ी भाषा मॉडल (LLM) तक एक्सेस करने की शर्त के तौर पर आयु अनुमान और सत्यापन को सामान्य बनाने का भी ख़तरा है, जहां किसी भी उम्र के उपयोगकर्ताओं से उनकी पहचान और व्यवहार के बारे में ज़्यादा जानकारी मांगी जा सकती है। इससे LLM, आयु सत्यापन कानूनों के फैलाव को बढ़ावा देने वाली ऑनलाइन सेवाओं की एक और श्रेणी के तौर पर सोशल मीडिया प्लैटफॉर्म और वयस्क वेबसाइट के साथ खड़ा हो सकता है। जैसे-जैसे AI के नियम विकसित हो रहे हैं, जैसे EU AI Act, आयु सत्यापन के चैटबॉट्स के लिए भी मानक ज़रूरत बनने की संभावना है।

एक ज़्यादा सुरक्षित AI असिस्टेंट जो आपकी निजता की रक्षा करता है

Lumo एक अलग, निजी AI असिस्टेंट है। ये आपके इस्तेमाल करने के तरीके से आपकी उम्र का अंदाज़ा नहीं लगाता, न ही आपकी बातचीत लॉग करता है या आपके डाटा पे ट्रेन करता है। हम कभी भी आपकी चैट को स्कैन नहीं करते और न ही किसी के साथ शेयर करते, एक ऐसी नीति जो उन्हीं ज़ीरो-एक्सेस एन्क्रिप्शन सिद्धांतों पे टिकी है जो Proton के बाक़ी प्रोडक्ट्स की रक्षा करते हैं।

13 साल या उससे ज़्यादा उम्र का कोई भी इसका इस्तेमाल कर सकता है, नाबालिगों के लिए अभिभावक की सहमति ज़रूरी है, और इसके नीचे कोई प्रोफ़ाइलिंग तंत्र नहीं चलता। अगर आप निजता को ध्यान में रखकर बनाए गए किसी ChatGPT विकल्प की तलाश में हैं, तो यहीं से शुरुआत करें।

Lumo के साथ चैट करें(नई विंडो)

अगर आप जानना चाहते हैं कि AI टूल्स आपका डाटा कैसे इकट्ठा और इस्तेमाल करते हैं, तो हमारी AI गाइड निगरानी, सुरक्षा और निजता प्रथाओं को विस्तार से समझाती है।