केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने डीपफेक (DeepFake) को लेकर चिंता जताई है। नई दिल्ली के भारत मण्डपम में चल रहे इंडिया एआई इम्पैक्ट समिट में डीपफेक के गलत इस्तेमाल पर बात करते हुए उन्होंने कड़े नियमों की जरूरत पर जोर दिया। उन्होंने स्पष्ट कहा कि डिजिटल प्लेटफॉर्म्स को भारत के संविधान की मर्यादा और कानूनी दायरे में रहकर काम करना होगा ताकि समाज को संभावित खतरों से सुरक्षित रखा जा सके।

केंद्रीय मंत्री ने कहा कि ‘डीपफेक’ की समस्या हर दिन बढ़ती जा रही है। हमें और कड़े नियमों की जरूरत है। डीपफेक पर बात करते हुए उन्होंने कहा कि इस चुनौती से निपटने के लिए प्लेटफॉर्म, एआई मॉडल डिवेलपर्स और क्रिएटर्स सभी को जिम्मेदारी लेनी होगी। इसके लिए टेक्निकल और लीगल, दोनों तरह का हल चाहिए।

डीपफेक पर केंद्रीय मंत्री ने कहा कि मिस-इन्फॉर्मेशन, डिस-इन्फोर्मेंशन और डीपफेक समाज की नींव पर हमला कर रहे हैं। डीपफेक सदियों से बने भरोसे को तोड़ने का काम कर रहे हैं।

उन्होंने कहा, ”मेरा मानना है कि ‘डीपफेक’ पर कहीं ज्यादा कड़े नियम चाहिए। यह समस्या रोजाना बढ़ती जा रही है। बच्चों और समाज को इनसे होने वाले नुकसान से बचाना बेहद जरूरी है… हमें पहले से मौजूद नियमों के अतिरिक्त नियमन चाहिए, इस पर उद्योग जगत के साथ बातचीत शुरू की जा चुकी है।” उन्होंने बताया कि संसदीय समिति ने भी इस विषय पर गहराई से गौर किया है। ‘एआई इम्पैक्ट समिट’ से इतर संवाददाता सम्मेलन में मंत्री ने कहा, ” हमें ‘डीपफेक’ पर बेहद कड़े नियम बनाने होंगे और संसद के भीतर इस पर व्यापक सहमति बनानी होगी ताकि समाज को इन खतरों से सुरक्षित रखा जा सके।”

उन्होंने कहा कि इसके अलावा कई देशों ने उम्र आधारित प्रतिबंधों की आवश्यकता को स्वीकार किया है। वैष्णव ने कहा, ” यह ऐसी बात है जिसे कई देशों ने माना है कि उम्र आधारित नियमन होना चाहिए। यह हमारे डेटा संरक्षण कानून का भी हिस्सा था… जब हमने छात्रों और युवाओं के लिए उपलब्ध सामग्री में उम्र के आधार पर अंतर तय किया था। उसी समय हमने यह दूरदर्शी कदम उठाया था।”

क्या है DeepFake?

डीप फेक एक सिंथेडिक मीडियम है जिसका इस्तेमाल फोटोज, वीडियो और ऑडियो फाइल्स को एडिट करने के लिए किया जाता है। आर्टिफिशियल इंटेलिजेंस की मदद से इन फाइल को एडिट किया जाता है। मशीन लर्निंग मॉडल के जरिए इन Deep Fake Video को क्रिएट किया जाता है और तस्वीरों व वीडियो को बदलने के लिए न्यूरल नेटवर्क का इस्तेमाल होता है। Artificial Intelligence के इस तरीके को ही Deep Learning भी कहा जाता है।

जैसा कि नाम से ज़ाहिर है डीप फेक यानी किसी भी फेक चीज को मशीन लर्निंग के जरिए इतना एडिट किया जाता है कि वह एकदम असली जैसा लगता है। सामान्य तरीके से देखने पर इन डीपफेक फोटो, वीडियो व ऑडियो फाइल की पहचान करना मुश्किल होता है और ये बिल्कुल असली जैसे लगते हैं।

आमतौर पर किसी डीप फेक फोटो को एडिट करना आसान होता है जबकि वीडियो को डीप फेक बनाने में थोड़ी मेहनत लगती है। लेकिन आर्टिफिशियल इंटेलिजेंस की इस दुनिया में, अब जबकि सबकुछ ऑनलाइन मौजूद है फेक वीडियो भी धड़ल्ले से बनाए जा रहे हैं। सरल शब्दों में कहें तो डीप फेक में किसी A व्यक्ति के चेहरे को B व्यक्ति के चेहरे से बदल दिया जाता है। यानी नकली तस्वीर यूजर्स को असली जैसी लगती है जबकि होती वो नकली ही है। बस यही है Deep Fake। यह टेक्नोलॉजी कई फील्ड जैसे मूवी के लिए विजुअल इफेक्ट में, किसी सर्विस में अवतार क्रिएट करने के लिए Augmented Reality में, सोशल मीडिया एक्टिविटी, एजुकेशन आदि में इस्तेमाल की जाती है। लेकिन अब आसान इंटरनेट और टेक्नोलॉजी की मदद से डीप फेक का गलत इस्तेमाल तेजी से बढ़ रहा है और सरकारों से लेकर पीएम तक इसे लेकर चिंतित हैं।

यह भी पढ़ें: AI और डीपफेक पर सरकार सख्त… अब 3 घंटे में हटेगा आपत्तिजनक कंटेंट

सरकार ने पिछले सप्ताह ही आर्टिफिशियल इंटेलिजेंस (AI) से बने और सिंथेटिक कंटेंट (जिसमें डीपफेक भी शामिल हैं) को संभालने के लिए ऑनलाइन प्लेटफॉर्म के लिए सख्त नियम बनाए हैं। इसमें कहा गया है कि X (Twitter) और इंस्टाग्राम जैसे प्लेटफॉर्म को किसी सक्षम अथॉरिटी या कोर्ट द्वारा फ्लैग किए गए ऐसे किसी भी कंटेंट को तीन घंटे के अंदर हटाना होगा। सरकार ने इन्फॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 में बदलावों को नोटिफाई किया, जो एआई से बने और सिंथेटिक कंटेंट को फॉर्मली डिफाइन करते हैं। नए नियम 20 फरवरी, 2026 से लागू होंगे। पढ़ें पूरी खबर