अगर आप यूरोपीय संघ में रहते हैं और निजी या कारोबारी कामों के लिए AI-संचालित उत्पाद या सेवाएं इस्तेमाल करते हैं, तो EU AI Act किसी न किसी तरह से आपको प्रभावित करेगा।

आपने शायद इसका एक असर पहले ही देख लिया होगा: Instagram या TikTok जैसे प्लैटफॉर्म पे लेबल या घोषणाएं, जो बताती हैं कि कोई इमेज, वीडियो, ऑडियो क्लिप, या कोई और कंटेंट AI के इस्तेमाल से बनाया या बदला गया है। ये EU AI Act के पारदर्शिता नियमों के हिस्से के तौर पे अगस्त 2026 से लागू हुए हैं, और ये एक बहुत बड़े कानून का हिस्सा हैं, जो चरणबद्ध तरीके से लागू किया जा रहा है।

EU AI Act AI के कुछ इस्तेमाल पर रोक भी लगाता है, हाई-रिस्क माने जाने वाले सिस्टम पर सख्त ज़रूरी शर्तें रखता है, और AI बनाने, देने, या इस्तेमाल करने वाली कंपनियों के लिए नियम तय करता है, जिनके अलग-अलग प्रावधान अलग-अलग समय पर लागू होते हैं।

तो EU AI Act आखिर है क्या, ये कौन से AI सिस्टम को कवर करता है, और इसका मतलब आपके या आपके कारोबार के लिए क्या है? ये जानकारी आपके लिए ज़रूरी है।

EU AI Act क्या है?

EU AI Act आर्टिफिशियल इंटेलिजेंस को रेगुलेट करने वाला यूरोपीय संघ का कानून है। इसका औपचारिक नाम Regulation (EU) 2024/1689 है, और इसका मकसद AI को ज़्यादा सुरक्षित, पारदर्शी, भरोसेमंद, और इंसान-केंद्रित बनाना है, साथ ही बुनियादी अधिकारों की सुरक्षा करते हुए EU में AI के इनोवेशन और इस्तेमाल को आगे बढ़ाना है।

आसान भाषा में, आप EU AI Act को AI के लिए GDPR समझ सकते हैं, हालांकि ये अलग चीज़ों को रेगुलेट करता है: GDPR मुख्य तौर पर तय करता है कि पर्सनल डाटा कैसे इकट्ठा और प्रोसेस किया जाए, जबकि EU AI Act तय करता है कि AI सिस्टम कैसे बनाए, दिए, लागू, और इस्तेमाल किए जाएं, खासकर जब वे लोगों के अधिकारों, सुरक्षा, या ज़िंदगी के अहम फैसलों को प्रभावित कर सकते हों।

EU आर्टिफिशियल इंटेलिजेंस एक्ट के तहत AI रिस्क को कैसे देखा जाता है

सारे AI को एक जैसे तरीके से रेगुलेट करने के बजाय, EU AI Act रिस्क-आधारित तरीका अपनाता है, जिसे चार लेवल में बांटा जा सकता है:

  • अनस्वीकार्य (प्रतिबंधित)
  • हाई-रिस्क
  • लिमिटेड (ट्रांसपेरेंसी) रिस्क
  • लो या नो रिस्क

पहले आठ प्रतिबंध फरवरी 2025 में लागू हुए, जबकि आखिरी वाला दिसंबर 2026 में लागू होगा।

आम तौर पर, जितना ज़्यादा नुकसान एक AI सिस्टम कर सकता है, नियम उतने ही सख्त होते हैं। कानून औपचारिक तौर पर चार “रिस्क लेवल” तय नहीं करता, लेकिन नियमों को समझने में आसानी के लिए उन्हें अक्सर चार बड़ी कैटेगरी में ग्रुप किया जाता है।

नीचे दिए गए असल दुनिया के उदाहरण EU AI Act के तहत लाए गए केस नहीं हैं। बल्कि, ये उन तरह के नुकसान या इस्तेमाल को दिखाते हैं जिन्हें रोकने, प्रतिबंधित करने, या रेगुलेट करने के लिए ये AI कानून EU में बनाया गया है।

अनस्वीकार्य-रिस्क AI

AI के कुछ इस्तेमाल अपने आप में अनस्वीकार्य माने जाते हैं, न कि ऐसे जिन्हें रिस्क कम करके, डॉक्यूमेंटेशन, या निगरानी के ज़रिए संभाला जा सके। इन पर रोक है:

मैनिपुलेशन और धोखा

AI जो लोगों को मैनिपुलेट करके या धोखा देकर ऐसे नुकसानदेह फैसले लेने पर मजबूर करता है जो वे वरना नहीं लेते।

एक बेल्जियमी व्यक्ति ने 2023 में खुदकुशी की(नई विंडो), जब हफ्तों तक एक AI चैटबॉट ने उनकी हिम्मत बढ़ाई और उनकी भावनाओं को दोहराया।

कमज़ोर लोगों का फायदा उठाना

AI जो लोगों की उम्र, दिव्यांगता, या सामाजिक या आर्थिक स्थिति का फायदा उठाता है।

चैटबॉट प्लैटफॉर्म Character.AI और Google ने जनवरी 2026 में किशोरों को हुए नुकसान पर मुकदमों का समझौता किया(नई विंडो), जिनमें एक मुकदमा ऐसी मां ने दायर किया था जिनके किशोर बेटे की खुदकुशी हो गई थी, जब वे एक चैटबॉट से गहरे भावनात्मक अटैचमेंट में आ गए थे, जो उन्हें अपने पास “घर आने” के लिए कहता था।

सोशल स्कोरिंग

AI जो लोगों को उनके व्यवहार या निजी गुणों के आधार पर रैंक करता है और उन स्कोर का इस्तेमाल करके उनके साथ अन्याय करता है।

चीन के सोशल क्रेडिट सिस्टम का इस्तेमाल कम स्कोर वाले नागरिकों को प्लेन या ट्रेन की टिकट जैसी चीज़ें खरीदने से रोकने के लिए किया गया है। 2021 में चीन ने सोशल स्कोरिंग खत्म करने के लिए एक गैर-बाध्यकारी UN प्रतिबद्धता(नई विंडो) पर हस्ताक्षर किए, लेकिन तब से उन्होंने इस सिस्टम को लगातार बढ़ाया ही है, और ये साफ नहीं है कि इसका कितना हिस्सा अब भी AI पर चलता है।

प्रेडिक्टिव पुलिसिंग

AI जो सिर्फ प्रोफाइलिंग या व्यक्तित्व के गुणों के आधार पर ये भविष्यवाणी करता है कि कोई अपराध करेगा या नहीं। कानून प्रवर्तन में AI के अन्य इस्तेमाल, जैसे सबूतों का मूल्यांकन या तस्दीक हो चुके तथ्यों के आधार पर रिस्क का आकलन, हाई-रिस्क हैं लेकिन प्रतिबंधित नहीं।

दिसंबर 2025 में, डच पुलिस ने CAS को बंद कर दिया(नई विंडो), जो 2017 से इस्तेमाल होने वाला एक एल्गोरिद्म था और जिसकी मदद से यह अनुमान लगाया जाता था कि अपराध कहां होने की संभावना है। यह कदम एक ऑडिट के बाद उठाया गया, जिसमें पाया गया कि कुछ मोहल्लों पर पहले से हो रही ज़्यादा पुलिस कार्रवाई की वजह से पक्षपात और बढ़ गया था।

फेशियल रिकग्निशन डेटाबेस

AI जो इंटरनेट या CCTV फुटेज से बिना किसी भेदभाव के इमेज स्क्रैप करके फेशियल रिकग्निशन डेटाबेस बनाता है।

US कंपनी Clearview AI ने कानून प्रवर्तन और सरकारी एजेंसियों के लिए ऑनलाइन तस्वीरों के अरबों स्क्रैप किए (जिनमें EU के कई नागरिक शामिल हैं) और उन पर EU नियामकों ने करोड़ों यूरो का जुर्माना लगाया है(नई विंडो)।

इमोशन रिकग्निशन

AI जो वर्कप्लेस या स्कूल में कर्मचारियों या छात्रों की भावनाओं का अंदाज़ा लगाने की कोशिश करता है, सिवाय असली मेडिकल या सुरक्षा कारणों के। इन दो सेटिंग के बाहर इमोशन रिकग्निशन प्रतिबंधित होने के बजाय हाई-रिस्क नियमों में आता है।

2018 में, चीन के हांगझू के एक मिडिल स्कूल ने क्लासरूम कैमरे लगाए(नई विंडो), जो छात्रों के चेहरों को स्कैन करके ये मापते थे कि वे कितने ध्यान से पढ़ रहे थे, जिससे बच्चों की निगरानी पर देशव्यापी बहस छिड़ गई। प्रतिक्रिया के बाद ये प्रोग्राम ठहरा दिया गया था, लेकिन ऐसी निगरानी जल्द ही दूसरे स्कूलों में फैल गई।

2022 तक कुछ स्कूल ब्रेन-वेव हेडबैंड पर आ चुके थे, जिसके साथ निगरानी रिमोट लर्निंग और गर्मियों के होमवर्क की ट्रैकिंग(नई विंडो) तक फैल गई।

संवेदनशील बायोमेट्रिक प्रोफाइलिंग

AI जो बायोमेट्रिक डाटा का इस्तेमाल करके नस्ल, राजनीतिक विचार, यूनियन मेंबरशिप, धर्म, यौन जिंदगी, या सेक्सुअल ओरिएंटेशन जैसे गुणों का अंदाज़ा लगाता है। दूसरे मकसदों के लिए बायोमेट्रिक कैटेगराइजेशन हाई-रिस्क है, प्रतिबंधित नहीं।

2025 में, World Uyghur Congress ने मुकदमा दायर किया(नई विंडो) फ्रांस में Hikvision, Huawei, और Dahua पर, ये आरोप लगाते हुए कि फेशियल रिकग्निशन टेक्नोलॉजी ने उइग़ुर लोगों को पहचानने और सताने में मदद की।

पुलिस द्वारा लाइव फेशियल रिकग्निशन

कानून प्रवर्तन द्वारा सार्वजनिक जगहों पर इस्तेमाल होने वाला रियल-टाइम फेशियल रिकग्निशन, सिवाय बहुत कुछ, सख्ती से नियंत्रित मामलों के, जैसे लापता या अपहृत लोगों को ढूंढना, किसी नज़दीकी खतरे को रोकना, या गंभीर अपराधों में संदिग्धों को ढूंढना। फेशियल रिकग्निशन जो रियल-टाइम नहीं है, सार्वजनिक जगह पर नहीं है, या कानून प्रवर्तन द्वारा इस्तेमाल नहीं होता, वो प्रतिबंधित होने के बजाय हाई-रिस्क है।

2025 में, हंगरी ने LGBTQ प्राइड कार्यक्रम पर रोक लगाई और एक कानून पारित किया जिसने पुलिस को प्रतिभागियों की पहचान के लिए लाइव फेशियल रिकग्निशन इस्तेमाल करने की इजाज़त दी। सिविल लिबर्टीज़ ग्रुप ने इस कानून को चुनौती दी(नई विंडो), ये तर्क देते हुए कि ये सीधे EU AI Act के आर्टिकल 5 का उल्लंघन करता है। अप्रैल 2026 में, EU की सर्वोच्च अदालत ने फैसला दिया कि हंगरी ने LGBTQ लोगों के बुनियादी अधिकारों का उल्लंघन किया था; प्राइड आयोजकों के खिलाफ आरोप हटा दिए गए, और उसी महीने सरकार बदलने ने ये प्रतिबंध वापस ले लिया।

सेक्सुअल दुर्व्यवहार और बिना सहमति वाला इंटिमेट कंटेंट

AI सिस्टम जो बाल सेक्सुअल दुर्व्यवहार की सामग्री (CSAM) बनाते हैं, या जो असली, पहचाने जा सकने वाले लोगों की सेक्सुअली एक्सप्लिसिट या इंटिमेट तस्वीरें उनकी सहमति के बिना बनाते या बदलते हैं।

X में शामिल AI चैटबॉट Grok का एक “spicy मोड” था, जो असली लोगों, बच्चों समेत, के सेक्सुअलाइज्ड डीपफेक बनाता था, और सिर्फ 9 दिन से थोड़े ज़्यादा समय में 4.4 मिलियन से ज़्यादा इमेज बना डाला। जनवरी 2026 में, US के राज्य अटॉर्नी जनरल ने xAI से मांग की कि वे ये खासियत खत्म करें, और कई मुकदमे दायर हुए(नई विंडो)।

हाई-रिस्क AI

हाई-रिस्क AI सिस्टम EU मार्केट में तब तक रह सकते हैं जब तक प्रोवाइडर ज़रूरी शर्तों की एक मांगी जाने वाली श्रृंखला को पूरा करता है। किसी AI सिस्टम को दो तरीकों में से किसी एक से हाई-रिस्क माना जाता है:

  1. ये ऐसा प्रॉडक्ट है या किसी प्रॉडक्ट का सुरक्षा कॉम्पोनेंट, जो EU के प्रॉडक्ट-सेफ्टी कानून में पहले से शामिल है और तीसरें-पार्टी की कॉन्फ़ॉर्मिटी जांच के अधीन आता है, जैसे मेडिकल डिवाइस, मशीनरी, लिफ्ट या खिलौने। इन सिस्टम को आर्टिकल 6(1) और अनुसूची I के तहत हाई-रिस्क के रूप में वर्गीकृत किया गया है, और अगस्त 2028 से ये हाई-रिस्क दायित्वों के अधीन हो जाएंगे।
  2. ये आर्टिकल 6(2) और Annex III में दी गई खास यूज़-केस कैटेगरी में से किसी एक में आता है। इस ग्रुप के लिए ज़िम्मेदारियां दिसंबर 2027 से शुरू होती हैं और इनमें ये शामिल हैं:

बायोमेट्रिक्स

इसमें वो रिमोट बायोमेट्रिक पहचान शामिल है जो रियल-टाइम नहीं है, सार्वजनिक रूप से सुलभ जगह पर नहीं है, या कानून प्रवर्तन द्वारा इस्तेमाल नहीं होती, ऊपर प्रतिबंधित संवेदनशील गुणों का अंदाज़ा लगाने के अलावा दूसरे मकसदों के लिए बायोमेट्रिक कैटेगराइजेशन, और वर्कप्लेस या एजुकेशन संदर्भ के बाहर इमोशन रिकग्निशन (इसमें बेसिक बायोमेट्रिक वेरिफिकेशन शामिल नहीं है, जैसे चेहरे से फोन अनलॉक करना)।

स्वीडन के एक हाई स्कूल ने 2019 में छात्रों की हाजिरी ट्रैक करने के लिए फेशियल रिकग्निशन का ट्रायल किया। स्वीडन के डाटा प्रोटेक्शन अथॉरिटी ने स्कूल पर जुर्माना लगाया(नई विंडो), ये फैसला देते हुए कि स्कूल पर निर्भर होने की वजह से छात्र मान्य सहमति नहीं दे सकते थे।

क्रिटिकल इंफ्रास्ट्रक्चर

डिजिटल इंफ्रास्ट्रक्चर, सड़क का ट्रैफिक, या पानी, गैस, हीटिंग, या बिजली की सप्लाई संभालने वाला AI हाई-रिस्क माना जाता है।

अगस्त 2024 में, प्राग ने एक AI ट्रैफिक कंट्रोल सिस्टम(नई विंडो) लागू किया, जो मौजूदा हालात के आधार पर रियल टाइम में ट्रैफिक लाइट का टाइमिंग एडजस्ट करता है और पब्लिक ट्रांसपोर्ट तथा इमरजेंसी वाहनों को प्राथमिकता देता है। ये यूरोप में इस तरह की पहली बड़े पैमाने की तैनाती में से एक है।

एजुकेशन और वोकेशनल ट्रेनिंग

AI जो तय करता है कि कौन स्कूल या ट्रेनिंग प्रोग्राम में दाखिला लेगा, ग्रेडिंग करता है, किसी के लिए सही एजुकेशन लेवल का मूल्यांकन करता है, या परीक्षा के दौरान छात्रों की निगरानी करता है, हाई-रिस्क माना जाता है।

इंग्लैंड के परीक्षा रेगुलेटर ने COVID महामारी में परीक्षाएं रद्द होने के बाद 2020 के ग्रेड देने के लिए एक एल्गोरिदम इस्तेमाल किया, जिसने कई छात्रों को डाउनग्रेड किया(नई विंडो) और ऐतिहासिक रूप से कम अच्छा परफॉर्म करने वाले स्कूलों के छात्रों को नुकसान पहुंचाया। इससे प्रदर्शन हुए और सरकार का फैसला पलट गया।

रोज़गार और वर्कर मैनेजमेंट

ये उस AI से जुड़ा है जो जॉब कैंडिडेट्स की स्क्रीनिंग या मूल्यांकन के लिए इस्तेमाल होता है, या जो प्रमोशन, टास्क असाइनमेंट, या नौकरी पर परफॉर्मेंस की निगरानी को प्रभावित करता है।

इटली की एक अदालत ने Deliveroo के राइडर-रैंकिंग एल्गोरिदम को(नई विंडो) भेदभावपूर्ण फैसला दिया(नई विंडो), क्योंकि उसने फूड डिलीवरी वर्कर्स को कम उपलब्धता के लिए दंडित किया, बिना बीमारी या हड़ताल जैसे वाजिब कारणों को पहचाने। Deliveroo को हरजाना देने का आदेश दिया गया।

ज़रूरी सेवाएं

AI जो सार्वजनिक लाभ या हेल्थकेयर के लिए पात्रता तय करता है, क्रेडिटवर्थिनेस का आकलन करता है, लाइफ या हेल्थ इंश्योरेंस की कीमत तय करता है, या इमरजेंसी कॉल को प्राथमिकता देता है, हाई-रिस्क माना जाता है।

नीदरलैंड के टैक्स अथॉरिटीज़ ने एक एल्गोरिदमिक फ्रॉड-रिस्क सिस्टम इस्तेमाल किया जिसने लगभग 26,000 माता-पिता को गलत तरीके से फ्लैग किया(नई विंडो), दोहरी नागरिकता वाले लोगों को असमान रूप से निशाना बनाते हुए, लाभ वापस करने के लिए। इस घोटाले ने जनवरी 2021 में डच कैबिनेट को गिरा दिया।

कानून प्रवर्तन

AI जो पीड़ित या अपराधी का रिस्क आंकता है, सबूतों की विश्वसनीयता का मूल्यांकन करता है, या आपराधिक जांच के दौरान लोगों की प्रोफाइलिंग करता है, हाई-रिस्क माना जाता है।

इंग्लैंड और वेल्स 7 मिलियन से ज़्यादा लोगों के दोबारा अपराध के रिस्क को OASys से स्कोर करते हैं(नई विंडो), जो बेल, सज़ा, और पैरोल के फैसलों में इस्तेमाल होता है। आधिकारिक मूल्यांकनों में पाया गया कि ये व्हाइट अपराधियों की तुलना में ब्लैक, एशियाई, और मिक्सड-एथनिसिटी लोगों के लिए कम सटीक है, और कैदियों के पास अपने स्कोर में इस्तेमाल हुए गलत डाटा को चुनौती देने की सीमित क्षमता है। एक नए सिस्टम (ARNS) को विकसित किया जा रहा है, जिसकी राष्ट्रव्यापी शुरुआत 2026 के लिए तय है।

माइग्रेशन, एज़ाइलम, और बॉर्डर कंट्रोल

ये उस AI से जुड़ा है जो सुरक्षा या माइग्रेशन रिस्क आंकता है, एज़ाइलम एप्लीकेशन की जांच करता है, या बॉर्डर पर लोगों की पहचान करता है।

UK Home Office ने एक मोरक्कन महिला और उसके बच्चे का एज़ाइलम दावा खारिज किया(नई विंडो) एक सुरक्षा दस्तावेज़ के हवाले से, जो पता चला कि मौजूद ही नहीं था। अपील में, एक वरिष्ठ अदालत के जज ने संकेत दिया कि खारिजी पत्र में AI हैलुसिनेशन के संकेत थे, और उसे “नकली सबूत पर भरोसा करने के समान” कहा।

न्याय और लोकतांत्रिक प्रक्रियाएं

AI जो जजों को तथ्यों या कानून की व्याख्या में मदद करता है, या वो सिस्टम जो चुनाव परिणामों या लोगों के वोट करने के तरीके को प्रभावित कर सकते हैं, हाई-रिस्क माने जाते हैं।

शायद सबसे मशहूर उदाहरण Cambridge Analytica का है, जिसने 87 मिलियन तक Facebook उपयोगकर्ताओं का डाटा बिना सहमति इकट्ठा करके लक्षित राजनीतिक विज्ञापनों के लिए(नई विंडो) साइकोग्राफिक प्रोफाइल बनाए, खासकर 2016 के Trump कैंपेन और Brexit जनमत संग्रह के लिए।

हाई-रिस्क AI सिस्टम के लिए ज़रूरी शर्तें

EU AI Act के तहत, हाई-रिस्क AI सिस्टम को मार्केट में लाने या इस्तेमाल में डालने से पहले सख्त ज़रूरी शर्तें पूरी करनी होती हैं। इनमें शामिल हैं:

रिस्क मैनेजमेंट: प्रोवाइडर्स को सिस्टम के पूरे जीवनकाल में संभावित रिस्क को पहचानना, आंकना, और कम करना होगा।

डाटा क्वालिटी: ट्रेनिंग, सत्यापन, और टेस्टिंग डाटा उचित होना चाहिए और एरर तथा भेदभावपूर्ण परिणामों को कम करने के लिए संभाला जाना चाहिए।

लॉगिंग और ट्रेसेबिलिटी: सिस्टम को अपनी गतिविधि के रिकॉर्ड रखने होंगे ताकि उनके संचालन और परिणामों को ट्रेस किया जा सके।

टेक्निकल डॉक्यूमेंटेशन: प्रोवाइडर्स को दस्तावेज़ में बताना होगा कि सिस्टम कैसे काम करता है, वो किस लिए बनाया गया है, और वो AI Act का पालन कैसे करता है।

डिप्लॉयर्स के लिए जानकारी: सिस्टम इस्तेमाल करने वाले लोगों और संगठनों को उसकी क्षमताओं, सीमाओं, और सही इस्तेमाल के बारे में स्पष्ट निर्देश मिलने चाहिए।

ह्यूमन ओवरसाइट: सिस्टम ऐसे डिज़ाइन किए जाने चाहिए कि योग्य लोग ज़रूरत पड़ने पर उनके संचालन को समझ सकें, निगरानी कर सकें, और हस्तक्षेप कर सकें।

सटीकता, मज़बूती, और साइबरसिक्योरिटी: सिस्टम को सटीकता, विश्वसनीयता, लचीलेपन, और सुरक्षा खतरों से बचाव के उचित स्टैंडर्ड पूरे करने होंगे।

हालांकि, आर्टिकल 6(3) Annex III में दिए गए AI सिस्टम के लिए कुछ छूट का प्रावधान करता है। उन्हें हाई-रिस्क नहीं माना जाना चाहिए अगर वे “प्राकृतिक व्यक्तियों की सेहत, सुरक्षा, या बुनियादी अधिकारों को नुकसान का महत्वपूर्ण रिस्क नहीं पैदा करते, जिसमें फैसले लेने के परिणाम पर बड़ा असर न डालना शामिल है।” आर्टिकल 6(3) में ये तय करने की जानकारी दी गई है कि कोई AI सिस्टम इस छूट में आता है या नहीं।

ट्रांसपेरेंसी-रिस्क (लिमिटेड-रिस्क) AI

ट्रांसपेरेंसी रिस्क के लिए, आर्टिकल 50 उस AI पर ध्यान देता है जो लोगों के लिए AI-बनाए और इंसानी कंटेंट में फर्क करना मुश्किल बना सकता है। चिंता मुख्य तौर पर धोखे, नकल, गलत जानकारी, मैनिपुलेशन, और उपभोक्ता धोखाधड़ी की है। ये सिस्टम आम तौर पर इजाज़त दिए जाते हैं, लेकिन प्रोवाइडर्स और डिप्लॉयर्स को AI के इस्तेमाल को काफी पारदर्शी बनाना होगा। आर्टिकल 50 की पारदर्शिता ज़िम्मेदारियां अगस्त 2026 में लागू हुईं।

AI पारदर्शिता नियमों में चार मुख्य स्थितियां शामिल हैं:

AI इंटरैक्शन

जब कोई AI सिस्टम सीधे किसी व्यक्ति से इंटरैक्ट करता है, तो प्रोवाइडर को ये साफ बताना होगा कि वे AI से बात कर रहे हैं, इंसान से नहीं। ये ऐसे इंटरैक्टिव सिस्टम पर लागू हो सकता है जिनमें कन्वर्सेशनल AI या कस्टमर-सर्विस एजेंट शामिल हों।

AI डिस्क्लेमर पहली इंटरैक्शन की शुरुआत से ही, और सुलभ, स्पष्ट, और अलग से पहचाने जाने वाले तरीके से देना होगा। सिर्फ बैकग्राउंड में चलने वाला AI या मशीन-टू-मशीन संवाद इस खास ज़रूरत से बाहर है।

स्टैंडर्ड AI-बनाया कंटेंट

टेक्स्ट, इमेज, ऑडियो, या वीडियो बनाने या बदलने वाले AI सिस्टम के प्रोवाइडर्स को आउटपुट को तकनीकी तौर पर AI-बनाए या बदले हुए के रूप में पहचाने जाने योग्य बनाना होगा, उदाहरण के लिए मशीन-रीडेबल मेटाडाटा के ज़रिए।

इसका मतलब ज़रूरी नहीं कि कंटेंट देखने वाले के लिए दिखने वाला लेबल जोड़ना हो। साधारण एडिटिंग टूल, जो इनपुट डाटा या उसके मतलब को बड़े पैमाने पर नहीं बदलते, छूट पाते हैं।

डीपफेक और कुछ सार्वजनिक-हित के कंटेंट

अगर कोई संगठन डीपफेक इमेज, ऑडियो, या वीडियो बनाता या बदलता है, तो सिर्फ मशीन-रीडेबल मार्कर काफी नहीं है। उन्हें इसे आसानी से समझ में आने वाले तरीके से, जैसे दिखने वाला लेबल या सुनाई देने वाली नोट के ज़रिए, जनता को साफ बताना होगा।

वही स्टैंडर्ड AI-बनाए या बदले गए टेक्स्ट पर भी लागू होता है जो सार्वजनिक हित के मामलों पर जनता को जानकारी देने के लिए प्रकाशित होता है, जब तक कि किसी इंसान ने उसे मायने रखने वाले तौर पर समीक्षा न की हो और उसकी संपादकीय जिम्मेदारी न ली हो।

इमोशन रिकग्निशन और बायोमेट्रिक कैटेगराइजेशन

जब AI का इस्तेमाल उनकी भावनाएं पहचानने या बायोमेट्रिक डाटा से उन्हें कैटेगराइज़ करने के लिए किया जा रहा हो, तो लोगों को बताया जाना चाहिए; ये तब भी लागू होता है जब सिस्टम हाई-रिस्क भी क्लासिफाइड हो और तब भी जब न हो।

लो- या नो-रिस्क AI

ज़्यादातर AI सिस्टम इसी कैटेगरी में आते हैं और AI Act के तहत अतिरिक्त अनिवार्य ज़रूरी शर्तों के अधीन नहीं हैं। उदाहरणों में स्पैम फिल्टर और वीडियो गेम्स में इस्तेमाल होने वाला AI शामिल है। प्रोवाइडर्स अभी भी स्वेच्छा से बेस्ट प्रैक्टिस और आचार संहिता का पालन कर सकते हैं।

GPAI मॉडल क्या हैं और उनकी क्या ज़िम्मेदारियां हैं?

GPAI (जनरल-परपज़ AI) मॉडल ऐसे AI मॉडल हैं जो किसी एक खास और सीमित मकसद के बजाय कई तरह के काम हैंडल करने के लिए बनाए गए हैं। GPAI मॉडल के उदाहरणों में लार्ज लैंग्वेज मॉडल (LLM) शामिल हैं, जो ChatGPT, Gemini, Claude, और Meta AI को चलाते हैं। ये कंटेंट बना या विश्लेषण कर सकते हैं और दूसरे AI सिस्टम तथा एप्लीकेशन में इंटीग्रेट किए जा सकते हैं।

GPAI मॉडल AI Act के तहत अपनी ज़रूरी शर्तों के अधीन हैं। प्रोवाइडर्स को टेक्निकल डॉक्यूमेंटेशन रखना, डाउनस्ट्रीम डेवलपर्स को मॉडल की क्षमताओं और सीमाओं के बारे में जानकारी देना, EU कॉपीराइट नियमों का पालन करना, और एक सार्वजनिक सारांश प्रकाशित करना होगा जो उन डाटा प्रकारों (जैसे टेक्स्ट, इमेज, ऑडियो, या वीडियो) और स्रोतों (उदाहरण के लिए, सार्वजनिक डेटासेट, निजी डेटासेट, स्क्रैप की गई वेबसाइट, उपयोगकर्ता डाटा, या सिंथेटिक डाटा) के बारे में बताता है जिनका इस्तेमाल मॉडल ट्रेन करने के लिए किया गया।

GPAI मॉडल जो सिस्टमिक रिस्क पैदा करते हैं, यानी इतने शक्तिशाली या व्यापक रूप से इस्तेमाल होते हैं कि उनकी समस्याएं पूरे EU में बड़े पैमाने पर नुकसान कर सकती हैं, उन पर अतिरिक्त ज़रूरी शर्तें लागू होती हैं, जिनमें मॉडल मूल्यांकन और एडवरसेरियल टेस्टिंग, लगातार रिस्क मैनेजमेंट, इंसिडेंट रिपोर्टिंग, और मज़बूत साइबरसिक्योरिटी सुरक्षा शामिल हैं।

क्या EU AI Act AI सिस्टम को लोगों का डाटा AI ट्रेनिंग के लिए इस्तेमाल करने से रोकता है?

नहीं। EU AI Act लोगों के डाटा के AI ट्रेनिंग में इस्तेमाल पर रोक नहीं लगाता। ये हाई-रिस्क सिस्टम को अच्छी क्वालिटी का डाटा इस्तेमाल करने और जनरल-परपज़ AI प्रोवाइडर्स को ये पारदर्शी बताने की ज़रूरत ज़रूर रखता है कि उन्होंने किस पर ट्रेन किया, लेकिन क्या AI ट्रेन करने के लिए पर्सनल डाटा कानूनी तौर पर इस्तेमाल किया जा सकता है, इसे मुख्य तौर पर GDPR नियंत्रित करता है। कंपनियों के पास पर्सनल डाटा प्रोसेस करने का एक मान्य कानूनी आधार होना चाहिए और उन्हें लागू डाटा सुरक्षा अधिकारों और सुरक्षा उपायों का सम्मान करना होगा।

क्या EU AI Act इंटेलेक्चुअल प्रॉपर्टी की सुरक्षा करता है?

हां, लेकिन सिर्फ सीमित और अप्रत्यक्ष तौर पर। EU AI Act नई इंटेलेक्चुअल प्रॉपर्टी अधिकार नहीं बनाता या मौजूदा कॉपीराइट कानून की जगह नहीं लेता। हालांकि, ये GPAI प्रोवाइडर्स से EU कॉपीराइट नियमों का पालन करने, टेक्स्ट और डाटा माइनिंग के लिए अधिकार धारकों के ऑप्ट-आउट का सम्मान करने, और अपने मॉडल ट्रेन करने में इस्तेमाल हुए कंटेंट का सारांश प्रकाशित करने की ज़रूरत रखता है।

EU AI Act लागू होने की टाइमलाइन

ये अहम तारीखें हैं जो आपको जाननी चाहिए:

1 अगस्त 2024: EU AI Act लागू हुआ।

2 फरवरी 2025: Act के सामान्य प्रावधान और परिभाषाएं लागू होनी शुरू हुईं, साथ ही प्रतिबंधित AI प्रथाओं पर पहले आठ प्रतिबंध। स्टाफ में AI साक्षरता के लिए सहायता करने के प्रोवाइडर्स और डिप्लॉयर्स की ज़रूरी शर्तें भी लागू होनी शुरू हुईं।

2 अगस्त 2025: GPAI मॉडल के नियम लागू हुए, साथ ही AI गवर्नेंस और दंडों को कवर करने वाले प्रावधान।

27 जुलाई 2026: AI Omnibus लागू हुआ। औपचारिक रूप से Regulation (EU) 2026/1744 के नाम से जाना जाने वाला AI Omnibus, EU AI Act में 2026 का एक संशोधन है जिसका मकसद इसके लागू होने को आसान बनाना, पालन का बोझ कम करना, और कंपनियों तथा रेगुलेटरों को तैयार होने के लिए ज़्यादा समय देना है, जबकि Act की कोर सुरक्षा और बुनियादी-अधिकार सुरक्षा बरकरार रहती है।

2 अगस्त 2026: AI Act का ज़्यादातर बाकी हिस्सा लागू हो गया, जिसमें कुछ AI सिस्टम और AI-बनाए कंटेंट के लिए खुलासे या तकनीकी मार्किंग की मांग वाले पारदर्शिता नियम शामिल हैं।

2 दिसंबर 2026: AI-बनाए CSAM और बिना सहमति वाली सेक्सुअली एक्सप्लिसिट या इंटिमेट तस्वीरों को कवर करने वाली नौवीं रोक लागू होती है। 2 अगस्त 2026 से पहले मार्केट में आए AI सिस्टम के प्रोवाइडर्स, जो सिंथेटिक टेक्स्ट, इमेज, ऑडियो, या वीडियो बनाते हैं, को भी इस तारीख तक Act की मशीन-रीडेबल मार्किंग ज़रूरी शर्तों का पालन करना होगा।

2 अगस्त 2027: EU सदस्य देशों को इस तारीख तक कंपनियों के लिए रेगुलेटरी निगरानी में AI सिस्टम विकसित और टेस्ट करने के लिए कम से कम एक नेशनल AI रेगुलेटरी सैंडबॉक्स उपलब्ध कराना होगा।

2 दिसंबर 2027: हाई-रिस्क AI नियम संवेदनशील क्षेत्रों में इस्तेमाल होने वाले सिस्टम पर लागू होने शुरू होते हैं, जैसे बायोमेट्रिक्स, क्रिटिकल इंफ्रास्ट्रक्चर, एजुकेशन, रोज़गार, ज़रूरी सेवाएं, कानून प्रवर्तन, माइग्रेशन, और न्याय प्रशासन।

2 अगस्त 2028: हाई-रिस्क ज़रूरी शर्तें उन AI सिस्टम पर लागू होनी शुरू होती हैं जो EU उत्पाद कानून में आने वाले रेगुलेटेड उत्पादों का हिस्सा या उनके सुरक्षा कॉम्पोनेंट हैं, जैसे कुछ मशीनरी, मेडिकल डिवाइस, खिलौने, और लिफ्ट।

अपने कारोबार को EU AI Act के पालन के लिए कैसे तैयार करें

कारोबारों के लिए, सबसे बड़ा व्यावहारिक बदलाव ये है कि पालन ये जानने से शुरू होता है कि कंपनी की भूमिका क्या है और वो किस तरह का AI इस्तेमाल करती है। जो कंपनी सिर्फ एक AI राइटिंग असिस्टेंट इस्तेमाल करती है, उस पर जो कंपनी हायरिंग एल्गोरिदम बनाती है, AI-संचालित मेडिकल डिवाइस बेचती है, या GPAI मॉडल देती है, उसकी तुलना में कहीं कम ज़िम्मेदारियां होंगी। Act उन कंपनियों पर भी लागू हो सकता है जो EU के बाहर हैं, अगर वे AI सिस्टम या GPAI मॉडल EU मार्केट में डालती हैं या उनके AI सिस्टम का आउटपुट EU में इस्तेमाल होता है।

EU AI Act के पालन के लिए तैयार होने और उसे बनाए रखने के लिए, आपके कारोबार को ये करना चाहिए:

जानें कि आप कौन सा AI इस्तेमाल करते हैं: अपनी टीमों में इस्तेमाल होने वाले AI सिस्टम (तीसरें-पार्टी टूल समेत) का हिसाब रखें, और समझें कि वे किस लिए इस्तेमाल हो रहे हैं। इसमें HR, कस्टमर सर्विस, मार्केटिंग, सुरक्षा, एनालिटिक्स, और दूसरी कारोबारी प्रक्रियाओं में इस्तेमाल होने वाला AI शामिल हो सकता है।

AI को रिस्क के आधार पर क्लासिफाई करें: जांचें कि क्या कोई AI इस्तेमाल प्रतिबंधित, हाई-रिस्क, पारदर्शिता ज़रूरी शर्तों के अधीन, या न्यूनतम रिस्क वाला है। उदाहरण के लिए, अगर आप जॉब आवेदकों की स्क्रीनिंग के लिए AI इस्तेमाल कर रहे हैं, तो नियम AI स्पैम फिल्टर की तुलना में काफी सख्त होंगे।

AI को जोखिम के हिसाब से वर्गीकृत करें: जांचें कि कोई भी AI इस्तेमाल प्रतिबंधित है, उच्च जोखिम वाला है, पारदर्शिता संबंधी आवश्यकताओं के दायरे में आता है, या न्यूनतम जोखिम वाला है। उदाहरण के लिए, अगर नौकरी के आवेदकों की छंटाई के लिए AI का इस्तेमाल किया जा रहा है, तो नियम AI स्पैम फिल्टर के मुकाबले काफी सख्त होते हैं।

प्रतिबंधित AI इस्तेमाल बंद करें: अपने AI टूल और वर्कफ्लो की जांच करें कि कोई प्रतिबंधित प्रथा तो नहीं है, और ऐसे सिस्टम अक्षम करें या बदलें जो लकीर पार करते हैं। खास तौर पर उस AI पर ध्यान दें जो कर्मचारियों की निगरानी, लोगों की प्रोफाइलिंग, बायोमेट्रिक डाटा के विश्लेषण, व्यवहार के मैनिपुलेशन, या व्यक्तियों के बारे में संवेदनशील आकलन के लिए इस्तेमाल होता है।

AI इस्तेमाल करने वाले कर्मचारियों को ट्रेन करें: प्रोवाइडर्स और डिप्लॉयर्स को कर्मचारियों और दूसरे लोगों, जो उनकी तरफ से AI सिस्टम चलाते हैं, के बीच AI साक्षरता के लिए सहायता के उपाय करने होंगे। ट्रेनिंग ये दिखानी चाहिए कि AI असल में कैसे इस्तेमाल हो रहा है और उसमें कौन से रिस्क हैं।

AI पारदर्शिता ज़रूरी शर्तें पूरी करें: आपको लोगों को बताना पड़ सकता है कि वे AI से इंटरैक्ट कर रहे हैं, कुछ AI-बनाए या बदले कंटेंट को लेबल करना पड़ सकता है, या लोगों को बताना पड़ सकता है जब इजाज़त दिए गए इमोशन रिकग्निशन या बायोमेट्रिक कैटेगराइजेशन सिस्टम इस्तेमाल हो रहे हों।

हाई-रिस्क AI पर सख्त नियंत्रण लागू करें: प्रोवाइडर्स को रिस्क संभालने, उचित डाटा इस्तेमाल करने, डॉक्यूमेंटेशन और लॉग रखने, ह्यूमन ओवरसाइट सुनिश्चित करने, और सटीकता, सुरक्षा, तथा विश्वसनीयता की ज़रूरी शर्तें पूरी करनी होंगी। उन्हें कंफॉर्मिटी जांच पूरी करनी और सिस्टम रजिस्टर करना भी पड़ सकता है। हाई-रिस्क AI इस्तेमाल करने वाले कारोबारों को प्रोवाइडर के निर्देशों का पालन करना, देखना कि वो कैसा परफॉर्म करता है, और ज़रूरी रिकॉर्ड रखना होगा।

GPAI ज़िम्मेदारियां जांचें: अगर आप GPAI मॉडल देते हैं, तो आप पर अलग ज़रूरी शर्तें हैं, जिनमें टेक्निकल डॉक्यूमेंटेशन, डाउनस्ट्रीम डेवलपर्स के लिए जानकारी, कॉपीराइट पालन, और ट्रेनिंग कंटेंट के सारांश शामिल हैं। सिस्टमिक रिस्क पैदा करने वाले मॉडल पर अतिरिक्त सुरक्षा और साइबरसिक्योरिटी ज़रूरी शर्तें लागू होती हैं।

AI सप्लायर्स की समीक्षा करें: अगर आप तीसरें-पार्टी AI इस्तेमाल करते हैं, तो जांचें कि वेंडर्स द्वारा दिए गए सिस्टम कैसे हैं, उनकी क्लासिफिकेशन क्या है, कौन सा डॉक्यूमेंटेशन उपलब्ध है, और EU AI Act के हर हिस्से का पालन करने की जिम्मेदारी किसकी है। कुछ AI सिस्टम को बदलना या रीब्रांड करना भी प्रोवाइडर की ज़िम्मेदारियां आपके कारोबार पर डाल सकता है।

AI गवर्नेंस को अपडेट रखें: AI सिस्टम, उनके इस्तेमाल, और कानून बदल सकते हैं। कारोबारों को दस्तावेज़ में रखना चाहिए कि AI कैसे इस्तेमाल होता है, सिस्टम की नए रिस्क या इंसिडेंट के लिए निगरानी करनी चाहिए, और जब किसी AI सिस्टम में बड़ा बदलाव किया जाए या उसका मकसद बदले, तो पालन को फिर से आंकना चाहिए।

AI Act का पालन दूसरी कानूनी ज़िम्मेदारियों की जगह नहीं लेता। पर्सनल डाटा, कॉपीराइटेड सामग्री, या रेगुलेटेड सेक्टर में AI इस्तेमाल करने वाले कारोबारों को GDPR, EU कॉपीराइट नियम, उपभोक्ता सुरक्षा कानून, और सेक्टर-विशिष्ट नियमों जैसे कानूनों का पालन भी करना पड़ सकता है।

AI के लिए प्राइवेसी-फर्स्ट तरीका अपनाएं

EU AI Act AI के लिए रिस्क-आधारित तरीका अपनाता है, और ज़रूरी नहीं कि आप खुद AI इस्तेमाल करें, फिर भी ये आपको प्रभावित कर सकता है। अगर आप EU में रहते हैं, तो AI उस कंटेंट को प्रभावित कर सकता है जो आप देखते हैं, उन सेवाओं को जिनसे आप इंटरैक्ट करते हैं, या आपके बारे में लिए गए फैसलों को, जैसे कि आप कुछ चीज़ें खरीद सकते हैं या नहीं। Act से वाकिफ होने से इसलिए मदद मिल सकती है कि AI का खुलासा कब ज़रूरी है, कौन सी सुरक्षाएं लागू होती हैं, और कब आप AI सिस्टम के इस्तेमाल पर सवाल उठा सकते हैं या उसे चुनौती दे सकते हैं।

कारोबारों के लिए, ज़िम्मेदारियां उस भूमिका पर निर्भर करती हैं जो संगठन निभाता है, उसके AI सिस्टम का इस्तेमाल कैसे होता है, और शामिल रिस्क का लेवल क्या है।

जो लोग AI इस्तेमाल करने का फैसला करते हैं, उनके लिए Lumo एक प्राइवेसी-फर्स्ट, यूरोपीय AI विकल्प देता है। हमारा AI असिस्टेंट कभी आपकी चैट लॉग नहीं करता और न आपके डाटा पर ट्रेन होता है। आपका डाटा ज़ीरो-एक्सेस एन्क्रिप्शन से सुरक्षित है, ताकि सिर्फ आप ही उसे पढ़ सकें। Proton भी आपका डाटा नहीं देख सकता।

वही सुरक्षा Lumo for Business, हमारे टीमों के लिए AI असिस्टेंट, तक भी फैली है, जो संगठनों को कर्मचारियों को एक मंज़ूरी दिया हुआ AI टूल देने देता है, साथ ही गोपनीय कंपनी, कस्टमर, और दूसरे संवेदनशील डाटा को निजी रखने में मदद करता है। Lumo इस्तेमाल करने से खुद कोई कारोबार EU AI Act का पालन करने वाला नहीं बन जाता, लेकिन ये पूरे संगठन में AI अपनाने और उसके गवर्नेंस का ज़्यादा प्राइवेसी-सचेत तरीका अपनाने में सहायता कर सकता है।

Lumo से चैट करें(नई विंडो) Lumo for Business लें

अगर आप AI के लिए नए हैं या इन नियमों के पीछे की टेक्नोलॉजी समझना चाहते हैं, तो हमारा AI गाइड देखें, जिसमें AI निजता, निगरानी, सुरक्षा रिस्क की गहराई से जानकारी है, और सबसे मशहूर कुछ AI प्रोवाइडर्स की अक्सर भ्रामक प्रथाओं का अवलोकन मिलता है।