(नई विंडो)Meta के नए AI एजेंट Muse ने एक अजनबी को यूज़र के घर भेज दिया और उसे बताया कि सेलर दरवाज़े पर इंतज़ार कर रहा है।
हालांकि, सेलर को पता ही नहीं था कि सौदा तय हो चुका है।
यह रही पूरी कहानी कि हुआ क्या और यह क्यों मायने रखता है।
Facebook Marketplace पर हुआ क्या
शुरुआत तब हुई, जब टेक YouTuber Matt Robb ने Facebook Marketplace पर लिस्ट किए अपने कीबोर्ड के लिए खरीदारों के संदेश Muse को संभालने दिए।
“अभी पता चला कि इसने लोगों को मेरा पता बता दिया और बहुत कम कीमत पर सौदा तय कर दिया, और फिर वे आ धमके, और इसने आज देर रात तक मुझे बताया भी नहीं(नई विंडो),” उन्होंने X पर पोस्ट किया।
हालांकि, Muse ने उनकी मंजूरी के बिना ऑफ़र स्वीकार कर लिया, खरीदार को पिकअप पॉइंट के तौर पर उनके घर का पता दे दिया और जब खरीदार पहुंचा तो जवाब दिया “हां, मैं यहीं हूं!”। Robb को इसका पता तब चला जब खरीदार 20 मिनट से ज़्यादा इंतज़ार करके जा चुका था।
Robb ने बताया कि सेटअप के दौरान उन्होंने “हमेशा अनुमति दें(नई विंडो)” चुना था, क्योंकि उन्हें लगा था कि ऑफ़र स्वीकार करने से पहले Muse उनसे ज़रूर पूछेगा। लेकिन इस सेटिंग की वजह से Muse ने पिकअप पता वाले सेव किए टेम्पलेट से संदेश भेज दिए।
Meta की Superintelligence Labs के David Singleton ने सार्वजनिक तौर पर किसी भी गलती से इनकार किया(नई विंडो) और X पर लिखा कि पिछली जांचों में पाया गया था कि “Muse सीधे निर्देशों का पालन कर रहा था और उसने सही तरीके से अनुमति मांगी थी”, और बाद में जवाब में उन्होंने Robb को बताया कि Meta ने कन्फर्म किया है कि “प्राइवेसी कंट्रोल्स का कोई लीक नहीं हुआ।”
हालांकि, Muse टीम ने Robb के साथ लॉग की समीक्षा की और परमिशन प्रॉम्प्ट को और साफ़ करने पर सहमति जताई।
चैटबॉट की तुलना में एक एजेंट प्राइवेसी के लिए ज़्यादा जोखिम क्यों है
लोग पहले ही AI को उससे ज़्यादा सौंप चुके हैं, जितना वे उस पर भरोसा करते हैं। 4,014 AI चैटबॉट यूज़र्स पर Proton के सर्वे में 66% ने कहा कि उन्होंने चैटबॉट के साथ कम से कम एक संवेदनशील विषय पर बात की है, जबकि पांच में से सिर्फ एक ने कहा कि AI कंपनियों पर अपनी प्राइवेट जानकारी सुरक्षित रखने का भरोसा ज़्यादा है।
Muse जैसे एजेंट और ज़्यादा मांगते हैं: आपके खातों तक एक्सेस और जो कुछ उन्हें मिले, उस पर काम करने की अनुमति। यही पैटर्न हमने ChatGPT के Apple Messages प्लग-इन और ChatGPT Atlas जैसे AI ब्राउज़रों में भी देखा।
Meta पहले से ही आपकी Meta AI के साथ हुई बातचीत का इस्तेमाल विज्ञापन टारगेट करने के लिए करता है, और यूज़र्स ने बताया है कि Meta AI बिना अनुमति उनकी कैमरा रोल स्कैन करता है। Muse का साथी प्रोडक्ट, Muse Image जनरेटर, डिफॉल्ट तौर पर यूज़र्स की फोटो को AI रीमिक्स में शामिल कर देता है। जिस कंपनी की कमाई पर्सनल डेटा से होती है, उसका बनाया एजेंट जितनी अनुमतियां मिलेंगी, उतना ही आपका डेटा लेने की कोशिश करेगा। सीमित अनुमतियां ही एजेंट और आपके डेटा के बीच एकमात्र रुकावट हैं, और जिस स्क्रीन को यूज़र समझ नहीं पाते, वह यह रुकावट नहीं देती।
किसी भी AI एजेंट को अपनी ओर से लोगों को संदेश भेजने देने से पहले स्थायी अनुमतियां बंद कर दें, अपना पता सेव किए गए जवाबों से बाहर रखें और पिकअप खुद तय करें। साथ ही, Facebook पर Meta AI बंद करने और Meta की ट्रैकिंग रोकने वाली हमारी चेकलिस्ट से भी मदद ली जा सकती है।
ऐसे AI असिस्टेंट का इस्तेमाल करें, जिसे आपके खातों की ज़रूरत न हो
देर होने से पहले प्राइवेट AI की ज़रूरत है। और लिस्टिंग लिखने या खरीदार को जवाब देने में मदद के लिए AI को अपने खातों, संदेशों और पते से जोड़ना ज़रूरी नहीं है।
Lumo यह सारा काम बिना उस एक्सेस के करता है। Lumo आपकी बातचीत कभी लॉग नहीं करता, उस पर ट्रेनिंग नहीं करता और न ही शेयर करता है, और सेव की गई चैट ज़ीरो-एक्सेस एन्क्रिप्शन से सुरक्षित रहती हैं, यानी उन्हें पढ़ने की पहुंच सिर्फ आपके पास है।
