सरकार ने डीपफेक पर स्टेटस रिपोर्ट सबमिट्स: एआई स्कैम्स अंडर स्क्रूटनी

इलेक्ट्रॉनिक्स एंड इंफॉर्मेशन टेक्नोलॉजी (मेटी) मंत्रालय ने सोमवार (24 मार्च) को दिल्ली उच्च न्यायालय में प्रस्तुत एक स्थिति रिपोर्ट में दीपफेक तकनीक के बारे में प्रमुख चिंताओं पर प्रकाश डाला। अदालत भारत में दीपफेक तकनीक के अनियमित प्रसार को चुनौती देने वाली याचिकाओं की सुनवाई कर रही थी। याचिकाओं में से एक भारत टीवी के अध्यक्ष और प्रधान संपादक रजत शर्मा द्वारा दायर की गई थी, जिसमें सरकार से नियमों को लागू करने और डीपफेक-जनरेटिंग ऐप्स और सॉफ्टवेयर के लिए सार्वजनिक पहुंच को प्रतिबंधित करने का आग्रह किया गया था। शर्मा की याचिका ने रेखांकित किया कि कैसे डीपफेक गलत सूचना को ईंधन दे सकते हैं, सार्वजनिक प्रवचन को विकृत कर सकते हैं और लोकतांत्रिक प्रक्रियाओं को खतरे में डाल सकते हैं।

रिपोर्ट में डीपफेक के बढ़ते दुरुपयोग पर जोर दिया गया-विशेष रूप से राज्य के चुनावों के दौरान-एआई-चालित घोटालों की बढ़ती संख्या, और नए कानूनों के बजाय सख्त प्रवर्तन की आवश्यकता।

इसके अतिरिक्त, रिपोर्ट ने “डीपफेक” के लिए एक मानकीकृत परिभाषा की अनुपस्थिति को इंगित किया, जो नियामक प्रयासों को जटिल करता है। यह भी नोट किया गया कि परिष्कृत अभिनेता वॉटरमार्किंग और मेटाडेटा टैगिंग जैसे पहचान तंत्र को दरकिनार कर सकते हैं। रिपोर्ट ने और बड़े पैमाने पर सार्वजनिक जागरूकता अभियानों की आवश्यकता पर जोर दिया, ताकि उपयोगकर्ताओं को दीपफेक की पहचान करने और समझने के लिए उपयोगकर्ताओं को शिक्षित किया जा सके। इसने भारतीय भाषाओं और संदर्भों में डीपफेक का पता लगाने और विश्लेषण करने के लिए स्वदेशी डेटासेट और उपकरण विकसित करने के महत्व पर जोर दिया।

स्टेकहोल्डर इनपुट एआई सामग्री प्रकटीकरण के लिए कॉल करें

अपनी स्थिति रिपोर्ट में, मेटी ने डीपफेक-संबंधित चिंताओं की जांच करने के लिए उठाए गए कदमों को विस्तृत किया। नौ सदस्यीय समिति ने इस साल जनवरी में प्रौद्योगिकी और नीति विशेषज्ञों के साथ चर्चा की।

हितधारकों ने अनिवार्य एआई सामग्री प्रकटीकरण, लेबलिंग मानकों और शिकायत निवारण तंत्र की वकालत की, जबकि डीपफेक प्रौद्योगिकी के रचनात्मक अनुप्रयोगों को प्रतिबंधित करने के बजाय दुर्भावनापूर्ण अभिनेताओं को लक्षित करने के महत्व पर भी जोर दिया।

दीपफेक प्रौद्योगिकी के रचनात्मक अनुप्रयोगों को प्रतिबंधित करने के बजाय दुर्भावनापूर्ण अभिनेताओं को लक्षित करने के महत्व को उजागर करते हुए, समिति ने “अनिवार्य मध्यस्थों के अनुपालन” पर भी विचार किया, जो एआई-जनित सामग्री को विनियमित करने में डिजिटल प्लेटफार्मों की जिम्मेदारी निर्धारित करेगा। रिपोर्ट में कहा गया है कि यह ढांचा सोशल मीडिया कंपनियों की देयता को परिभाषित कर सकता है, जो मुक्त अभिव्यक्ति सुनिश्चित करते हुए उनकी जवाबदेही को संतुलित कर सकता है।

रिपोर्ट में यह भी उल्लेख किया गया है कि कई हितधारकों ने इस बात पर सहमति व्यक्त की कि सूचना प्रौद्योगिकी अधिनियम, 2000 (आईटी अधिनियम), सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया नैतिकता कोड) के नियम, 2021 (आईटी नियम, 2021), और भारती न्याया संहिता, 2023 (बीएनएस) के तहत मौजूदा कानूनी ढांचा, दुर्भावनापूर्ण संलग्नक को संबोधित करने के लिए पर्याप्त है।

चुनाव डीपफेक और एआई दुरुपयोग अलार्म बढ़ाते हैं

दीपफेक एनालिसिस यूनिट (DAU), मेटा-समर्थित मिसिनफॉर्मेशन कॉम्बैट एलायंस (MCA) के तहत एक पहल ने दीपफेक टेक्नोलॉजी के दुरुपयोग से संबंधित दो परेशान करने वाले रुझानों को चिह्नित किया है:

• डीपफेक विशेष रूप से राज्य चुनावों के दौरान महिलाओं को लक्षित करते हैं
• एआई-संचालित घोटाले की सामग्री में चुनाव के बाद का समय

DAU ने DeepFake ऑडियो का पता लगाने में चुनौतियों को भी उजागर किया, जिसमें कहा गया कि वास्तविक और हेरफेर वाली आवाज रिकॉर्डिंग के बीच अंतर एक महत्वपूर्ण बाधा है। इसने सहयोगी पहचान ढांचे और स्पष्ट नियामक मानदंडों की आवश्यकता पर जोर दिया। समिति ने इन चिंताओं को स्वीकार किया और डीपफेक-संबंधित आपराधिक मामलों को ट्रैक करने और विश्लेषण करने के लिए कानून प्रवर्तन एजेंसियों, विशेष रूप से भारतीय साइबर अपराध समन्वय केंद्र (I4C) से सहयोग मांगने की सिफारिश की।

पीड़ितों के साथ परामर्श अभी तक शुरू करना है

अपनी रिपोर्ट में, मेटी ने स्वीकार किया कि उसने अभी तक दीपफेक हमलों के पीड़ितों से परामर्श नहीं किया था। रिपोर्ट में कहा गया है कि मंत्रालय सूचना और प्रसारण मंत्रालय के साथ काम कर रहा है ताकि दीपफेक सामग्री से प्रभावित व्यक्तियों से गवाही इकट्ठा किया जा सके। समिति ने इन परामर्शों को पूरा करने के लिए अतिरिक्त तीन महीने का भी अनुरोध किया, जिसे दिल्ली उच्च न्यायालय ने मंजूरी दी।

मुख्य न्यायाधीश डीके उपाध्याय और न्यायमूर्ति तुषार राव गेडेला के नेतृत्व में एक पीठ ने समिति को इस मुद्दे का मूल्यांकन करते हुए याचिकाकर्ताओं से सुझावों को शामिल करने का आदेश दिया। इस मामले पर अगली सुनवाई 21 जुलाई, 2025 के लिए निर्धारित है।

रजत शर्मा ने दिल्ली एचसी में डीपफेक टेक्नोलॉजी के गैर-विनियमन के खिलाफ याचिका दायर की

भारत टीवी के अध्यक्ष और प्रधान संपादक रजत शर्मा ने दिल्ली उच्च न्यायालय में गहरी नकली तकनीक के गैर-विनियमन के खिलाफ एक याचिका दायर की थी। इसके बाद, उच्च न्यायालय की एक डिवीजन बेंच जिसमें कार्यवाहक मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति मनमीत प्रीतम सिंह अरोड़ा शामिल थे, ने एक नोटिस जारी किया और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय के माध्यम से केंद्र सरकार से प्रतिक्रिया मांगी।

सुनवाई के दौरान, बेंच ने मौखिक रूप से टिप्पणी की कि “यह एक बड़ी समस्या है” और केंद्र सरकार से कार्य करने की इच्छा पर सवाल उठाया। अदालत ने कहा, “राजनीतिक दल इस बारे में भी शिकायत कर रहे हैं। आप कोई कार्रवाई नहीं कर रहे हैं।”

दलील के अनुसार, डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए महत्वपूर्ण खतरे पैदा करता है, जिसमें गलत सूचना और विघटन अभियान, सार्वजनिक प्रवचन और लोकतांत्रिक प्रक्रियाओं को कम करना, धोखाधड़ी और पहचान की चोरी में संभावित उपयोग, और व्यक्तियों की प्रतिष्ठा और गोपनीयता को नुकसान शामिल है।

दीपफेक तकनीक एक गंभीर खतरा है: दिल्ली उच्च न्यायालय

अगस्त 2024 में दिल्ली उच्च न्यायालय ने कहा कि डीपफेक तकनीक समाज में एक गंभीर खतरा होने जा रही है और सरकार को इसके बारे में सोचना शुरू करना चाहिए और देखा कि एंटीडोट फॉर आर्टिफिशियल इंटेलिजेंस (एआई) केवल प्रौद्योगिकी होगी। उच्च न्यायालय ने देखा कि 2024 के चुनावों से पहले, सरकार को इस मुद्दे पर उत्तेजित कर दिया गया था, और अब चीजें बदल गई हैं।

डीपफेक जारी करने के लिए किए गए उपायों पर रिपोर्ट दर्ज करने के लिए केंद्र

अक्टूबर 2024 में डीपफेक के मामले से संबंधित एक महत्वपूर्ण विकास में, दिल्ली उच्च न्यायालय ने केंद्र से डीपफेक तकनीक के बढ़ते खतरे का मुकाबला करने के लिए इसके द्वारा उठाए गए उपायों पर एक स्थिति रिपोर्ट दर्ज करने के लिए कहा। इस मामले पर सुनवाई के दौरान, मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति तुषार राव गेडेला ने सरकारी स्तर पर उठाए गए उपायों को उजागर करने के लिए रिपोर्ट मांगी।

नवंबर 2024 में दिल्ली उच्च न्यायालय ने केंद्र को निर्देशित किया कि वे डीपफेक के मुद्दे की जांच करने के लिए एक पैनल के लिए सदस्यों को नामांकित करें। केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय द्वारा सूचित किए जाने के बाद उच्च न्यायालय का निर्देश आया कि 20 नवंबर को दीपफेक मामलों पर एक समिति का गठन किया गया था।

डीपफेक तकनीक क्या है?

DEEPFAKE तकनीक हाइपर-यथार्थवादी वीडियो, ऑडियो क्लिप और छवियों के निर्माण को सक्षम करती है, जो लोगों के शब्दों और कार्यों को बदलकर सार्वजनिक धारणा में हेरफेर कर सकती है। यह सूचना अखंडता के लिए एक बड़ा जोखिम है, क्योंकि इसका उपयोग राजनीतिक प्रचार, वित्तीय धोखाधड़ी और व्यक्तिगत मानहानि के लिए किया जा सकता है।