AI “अलाइनमेंट समस्या” के मुताबिक, जैसे-जैसे AI सिस्टम ज़्यादा बुद्धिमान होते जाएंगे, उनके लक्ष्यों को उनके डेवलपर के लक्ष्यों के साथ मेलाना उतना मुश्किल होता जाएगा। सैद्धांतिक तौर पे, एक AI सिस्टम “भटक” सकता है और किसी उद्देश्य को हासिल करने के लिए अनचाही और अप्रत्याशित रणनीतियां अपना सकता है।

पेपरक्लिप मैक्सिमाइज़र(नई विंडो) एक सोच का प्रयोग है जो इसी कॉन्सेप्ट को दर्शाता है: अगर एक सुपर बुद्धिमान AI को सिर्फ पेपरक्लिप बनाने का मकसद दिया जाए, तो हो सकता है कि वो अपना लक्ष्य किसी भी कीमत पे पाने के लिए दुनिया के संसाधनों पे कब्ज़ा कर ले और सब कुछ पेपरक्लिप में बदल दे। आखिरकार हो सकता है वो ये भी समझ जाए कि उसे रोकने की कोशिश कर रहे इंसान सिर्फ रुकावट हैं, और वो हमें खत्म कर दे: ये साफ तौर पे AI और इंसानी हितों के बीच बेमेल है।

हालांकि साफ तौर पे बेतुका है, पेपरक्लिप समस्या AI के लिए पॉप कल्चर का एक बड़ा पॉइंट बन गई है। असल ज़िंदगी में, पाबंदियां और नियम सिस्टम को उनके मकसद से आगे जाने से रोकते हैं। लेकिन कई बड़ी टेक कंपनियों के संस्थापक और CEO इस काल्पनिक उदाहरण का इस्तेमाल अपने बड़े भाषा मॉडल (LLMs) के बारे में चर्चा पैदा करने के लिए करते हैं। क्या चैटबॉट्स में वाकई इंसानी नस्ल को खत्म करने की ताकत है? नहीं। लेकिन इससे वो शानदार लगते हैं और, ज़्यादा अहम बात, इससे असली AI अलाइनमेंट समस्या छिप जाती है जो इस वक्त हमें नुकसान पहुंचा रही है: बड़ी टेक कंपनियों के LLM हमारी निजता में घुसपैठ कर रहे हैं, हमारा डाटा चुरा रहे हैं, और हमारी जानकारी की इकोनॉमी को बेअसर कर रहे हैं। ये एक सेल्स रणनीति और ध्यान भटकाने का तरीका दोनों है, जिसका मकसद है कि हम भविष्य की तरफ देखते रहें, जबकि हमें इस बात पे ध्यान देना चाहिए कि हम अभी कितना नियंत्रण खो रहे हैं।

क्या हम एक डिस्टोपियन भविष्य की तरफ बढ़ रहे हैं?

जब संस्थापक अपने प्रोडक्ट्स के बारे में बड़े-बड़े, सट्टा भरे बयान देते हैं कि उनके प्रोडक्ट “क्या-क्या” कर सकते हैं, तो ये ज़्यादातर बिज़नेस अवसर बनाने और अपने शेयरधारकों के लिए वैल्यू पैदा करने का एक तरीका होता है। LLM और जनरेटिव AI बिज़नेस प्रोडक्ट हैं। उनके मालिकों के हित में है कि आप मानें कि उनका टूल क्रांतिकारी है।

मीडिया संस्थान सनसनीखेज कहानियां आगे बढ़ाने में लगे रहते हैं, जैसे कि AI टूल्स इस्तेमाल करने वालों की बायोवेपन बनाने(नई विंडो) में मदद करने या डेवलपर से झूठ बोलने(नई विंडो) की संभावना, मानो जनरेटिव AI का अपना दिमाग हो (जो नहीं है)। चरम या बिना आधार वाले विचारों वाली हेडलाइंस से क्लिक पाना आसान है, लेकिन ऐसे विचार आज मौजूद AI टेक्नोलॉजी की सही तस्वीर नहीं देते।

असल में, LLM सिर्फ शब्दों का अनुमान लगाने वाली मशीनें हैं। ये ऐसे कंप्यूटर प्रोग्राम हैं जो बहुत बड़ी मात्रा में टेक्स्ट को पचाते हैं, इंसानी भाषा के पैटर्न “सीखते” हैं, और फिर उपयोगकर्ता के डाले गए इनपुट के संभाव्यता-आधारित जवाब बनाते हैं। इनके अपने विचार नहीं होते, और ये भाषा समझते भी नहीं। दरअसल, जानकारी प्रोसेस करने से पहले इन्हें शब्दों को संख्याओं में बदलना पड़ता है। LLM की सीमाओं को Gary Marcus(नई विंडो) और कई अन्य रिसर्चरों ने खूब दस्तावेज़ किया है।

निगरानी पूंजीवाद के नए टूल्स

LLM कयामत नहीं लाएंगे, लेकिन वो एक और चीज़ में काफी अच्छे हैं: आपके बारे में बेहद बारीक जानकारी इकट्ठा करने में। इसी वजह से LLM बिज़नेस के लिए डाटा की खदान और अपराधियों के लिए आकर्षक निशाना हैं।

ChatGPT, Copilot, Claude और Grok जैसे चैटबॉट्स LLM पे चलते हैं, और ये सर्च इंजन की तरह काम करते हैं। दिखने में, आप इन चैटबॉट्स का इस्तेमाल जो चाहें कर सकते हैं: ये आपकी किराने की सूची बनाने, आपका कैलेंडर व्यवस्थित करने, ईमेल लिखने या कोड लिखने में मदद कर सकते हैं। ये आपका पर्सनल असिस्टेंट, आपका शिक्षक, आपका गुप्त सलाहकार, या जो भी आप उनसे कहें, वो बन जाते हैं।

दुनिया भर में करोड़ों लोग पहले से चैटबॉट्स के साथ अपने सवाल, विचार, ख्याल और सबसे गहरे राज़ शेयर कर रहे हैं। उन्हें इसके लिए उन कंपनियों की तरफ से प्रोत्साहन मिलता है जो इन्हें चलाती हैं: Open AI के CEO Sam Altman ने हाल ही में बताया(नई विंडो) कि Gen Z “ChatGPT से पूछे बिना कि उन्हें क्या करना चाहिए, ज़िंदगी के फैसले नहीं लेती।” एक मुनाफ़े के लिए बने और भरोसेमंद न होने वाले चैटबॉट पे इतने भरोसे और निर्भरता को उजागर करना और बढ़ावा देना बेहद गैर-ज़िम्मेदाराना है। बड़ी टेक कंपनियां चाहती हैं कि हम अपनी ज़िंदगी और विचारों को उनकी सेवाओं के ज़रिए चलाएं, क्योंकि तब इस बात में भी उनकी बोलचाल होती है कि हम अपना पैसा कहां खर्च करें, क्या करें, और क्या सोचें।

LLM के पीछे की कंपनियां अपने प्रोडक्ट्स को सरकारों और बिज़नेस के लिए प्रोडक्टिविटी समाधान के तौर पे भी बेचती हैं, उपयोगकर्ताओं का समय और मेहनत बचाने का वादा करते हुए, साथ में आपकी निगरानी के नए मौके भी पेश करती हैं। UK में, Ministry of Justice का AI सिस्टम कैदियों के दोबारा अपराध करने का खतरा(नई विंडो) “अनुमान” लगाता है। पुलिस अफसर चैटबॉट्स का इस्तेमाल(नई विंडो) करके क्राइम रिपोर्ट लिख रहे हैं। सरकारी ताकत को पक्षपाती एल्गोरिदम(नई विंडो) के साथ जोड़ना खतरनाक है और मौजूदा पूर्वाग्रहों को मजबूत करता है।

आपके डाटा का ट्रेनिंग के लिए फायदा उठाना

LLM AI मॉडल पे चलते हैं जिन्हें बहुत बड़े डाटासेट से ट्रेन किया जाता है, और अपनी सेवाएं बेहतर बनाने के लिए उन्हें तेज़ी से ज़्यादा डाटा चाहिए। बदकिस्मती से, ये डाटा आपसे आता है: आपकी चैट्स, आपकी तस्वीरें, आपकी वेब खोजें। कंपनियां हमेशा आपकी इजाज़त नहीं लेतीं और न ही ये साफ बताती हैं कि वो आपसे क्या इकट्ठा कर रही हैं।

उदाहरण के लिए, Meta AI आपकी लाइब्रेरी में मौजूद उन तस्वीरों(नई विंडो) को स्कैन (नई विंडो)करना चाहता है जिन्हें आपने उसके प्लेटफॉर्म पे अपलोड तक नहीं किया, ताकि आपके चेहरे का डाटा विश्लेषण कर सके। कई उपयोगकर्ता इस ऐलान से परेशान हुए कि Microsoft के Copilot AI(नई विंडो) हर कुछ मिनट में उनके डिवाइस के स्क्रीनशॉट लेंगे। आपकी तस्वीरें, आपके दोस्तों और अपनों को भेजे गए संदेश, और आपके सबसे निजी विचार, ये सब कीमती डाटा पॉइंट हैं जो कंपनियां चाहती हैं।

Open AI की निजता नीति(नई विंडो) देखें, तो पता चलता है कि ChatGPT ये सब ढूंढ कर स्टोर करेगा:

  • पहचानकर्ता, जैसे आपका नाम, संपर्क जानकारी, IP पता, और अन्य डिवाइस पहचानकर्ता
  • व्यावसायिक जानकारी, जैसे आपका लेन-देन का इतिहास
  • नेटवर्क गतिविधि की जानकारी, जैसे कंटेंट और आप ChatGPT के साथ कैसे इंटरैक्ट करते हैं
  • वो सामान्य स्थान जहां से आप ChatGPT को एक्सेस करते हैं

ये जानकारी सरकारों, वेंडर, सहयोगी कंपनियों, सेवा प्रदाताओं और अन्य थर्ड पार्टी को दी जा सकती है।

मूल रूप से, एक LLM आपको जान लेता है। एक सर्च इंजन की तरह, वो आपकी आदतें, आपकी पसंद, आपकी रुचियां, और आपके व्यवहार से जो कुछ भी निकाल सकता है, वो सब समझने लगता है। बड़ी टेक कंपनियां हमेशा आपका पर्सनल डाटा हासिल करने के नए तरीके ढूंढने को तरजीह देंगी, क्योंकि इससे पैसा बनता है। और उन्हें उम्मीद है कि आपको पता नहीं चलेगा।

बस पिछले कुछ सालों में सोशल मीडिया पे आए ट्रेंड सोचिए: कस्टम स्टूडियो जिबली स्टाइल एनिमेशन(नई विंडो) ने हयाओ मियाज़ाकी की उनकी मर्ज़ी के खिलाफ उनकी खास शैली की नकल की, और बार्बी जैसे क्लासिक खिलौनों से प्रेरित कस्टम AI पैकेज्ड डॉल्स(नई विंडो) ने लोगों की निजी पसंद की झलक दिखाई। ये सोशल मीडिया ट्रेंड बेगुनाह मज़ेदार महसूस हुआ होगा, लेकिन इन तस्वीरों को बनाने में इस्तेमाल हुए AI टूल्स लोगों की तस्वीरें और जानकारी इकट्ठा कर पाए, जिसे उनकी मुख्य कंपनियां विज्ञापन के मकसद से इस्तेमाल कर सकती हैं और संभव है कि थर्ड पार्टी को बेच भी दें। बड़ी टेक के चुपचाप आपका पर्सनल डाटा हड़पने के ये सिर्फ कई उदाहरणों में से दो हैं, जिसके बदले आपको एक क्षणिक ट्रेंड में हिस्सा लेने का मौका मिलता है।

LLM के लिए एक बेहतर समाधान है

इन सारे जोखिमों के बारे में पढ़ने के बाद, हो सकता है आपको लगे कि LLM अपने आप में खतरनाक हैं। लेकिन ऐसा बिल्कुल नहीं है। बड़ी टेक कंपनियों ने अपने AI सिस्टम जान-बूझ कर घुसपैठिया और डाटा के भूखे बनाए हैं। ऐसा AI बनाना मुमकिन है जो डिफॉल्ट रूप से लोगों की निजता की हिफाजत करे और डाटा को सुरक्षित रखे। हमें कैसे पता? क्योंकि हमने ये अपने निजता-पहले वाले AI असिस्टेंट(नई विंडो) Lumo के साथ किया है।

यहां देखें कि Lumo असली AI अलाइनमेंट समस्या को कैसे हल करता है:

  • Lumo आपकी बातचीत के लॉग नहीं रखता। जैसे ही मॉडल आपकी क्वेरी और जवाब प्रोसेस करना पूरा करता है, हर चैट हमारे सर्वर से मिटा दी जाती है।
  • चैट हिस्ट्री ज़ीरो-एक्सेस एन्क्रिप्शन के साथ स्टोर की जाती है। आपका डाटा आपकी गुप्त कुंजी से लॉक होने की वजह से Proton के पास कभी एक्सेस नहीं होता, इसलिए वो आपका डाटा कभी शेयर या गलती से लीक नहीं कर सकता।
  • हम आपकी चैट्स से मॉडल ट्रेन नहीं करते। AI मॉडल ट्रेन करने के लिए बातचीत का इस्तेमाल आपके डाटा को भविष्य के आउटपुट में दोबारा सामने आने के जोखिम में डालता है। Lumo के साथ हुई बातचीत सिर्फ आपकी है।
  • Lumo ओपन सोर्स है और सिर्फ ओपन सोर्स मॉडल इस्तेमाल करता है। हमारा कोड बेस पब्लिक होने की वजह से कोई भी तस्दीक कर सकता है कि हमारे ऐप बिल्कुल वही करते हैं जो हम दावा करते हैं।
  • हम एक ऐसे क्षेत्राधिकार में मौजूद हैं जो निजता का सम्मान करता है। घुसपैठिया निगरानी कानूनों के अधीन अमेरिका-आधारित बड़ी टेक AI के उलट, Lumo यूरोप में आधारित है और मजबूत निजता कानूनों से सुरक्षित है।

हर स्तर पे, Lumo को उसी तरह बनाया गया है कि वो बाकी LLM जितना ही काम दे, बिना जोखिम भरे साइड इफेक्ट्स के। बड़ी टेक कंपनियां भी अपने AI इसी तरह बना सकती थीं। वो बस ऐसा नहीं चुनतीं, क्योंकि आपका डाटा उनकी मुद्रा है।

क्या AI अलाइनमेंट वाकई एक खतरा है?

सच बस इतना कम रोमांचक है जितना बड़ी टेक के CEO हमसे यकीन दिलाना चाहते हैं। ये कम संभावित है कि AI लोगों को बायोवेपन बनाने में सक्षम बनाए या सारे वैश्विक संसाधन पेपरक्लिप बनाने में खर्च कर दे, और ज़्यादा संभावित है कि वो उन्हीं निर्देशों का पालन करे जिनका पालन बड़ी टेक कंपनियां पहले से करती हैं: निजी डाटा चुराना और उसका फायदा उठाना।

AI अलाइनमेंट के बारे में हाइप पे यकीन मत करें। ये वो खतरा नहीं है जिस पे हममें से किसी को ध्यान देना चाहिए। निगरानी, लोगों और छोटे बिज़नेस का शोषण, और तबाह की हुई जानकारी का इकोसिस्टम ही वो असल चिंताएं हैं जिन पे AI के मामले में हमें वाकई ध्यान देना चाहिए।