केंद्र सरकार ने आर्टिफिशियल इंटेलिजेंस (AI) से बनाए गए डीपफेक और फर्जी ऑडियो-वीडियो और टेक्स्ट जैसे आपत्तिजनक कंटेंट से निपटने के लिए सोशल मीडिया प्लेटफॉर्म के नियमों को सख्त कर दिया है।

फरवरी में आईटी नियमों में किए गए बदलाव के तहत, अब प्लेटफॉर्म को एआई से बने ऐसे कंटेंट पर स्पष्ट रूप से लेबल लगाना होगा और यह पक्का करना होगा कि उसमें ट्रेसेबल मेटाडेटा हो, ताकि यूजर सिंथेटिक रूप से बनाए गए मटीरियल की पहचान कर सके।

एआई कंटेंट के बारे में यूजर्स को देनी होगी जानकारी

संशोधित नियमों के तहत, प्लेटफार्म को गैर-कानूनी AI-जनरेटेड कंटेंट (जैसे डीपफेक, बच्चों के यौन शोषण से जुड़ा मटीरियल, बिना सहमति के निजी तस्वीरें और AI-आधारित फोटो-वीडियो) के खिलाफ कदम उठाने होंगे। साथ ही प्लेटफार्म को अब गैर-कानूनी AI-जनरेटेड कंटेंट बनाने या शेयर करने के कानूनी नतीजों के बारे में यूजर्स को भी बताना होगा ताकि वे इसे लेकर अनजान न रहें।

गैर-कानूनी कंटेंट को हटाने की अवधि भी हुई कम

इसके अतिरिक्त आईटी मंत्रालय ने गैर-कानूनी कंटेंट को हटाने के लिए प्लेटफार्म को दी जाने वाली समय-सीमा में भी बदलाव किया है, सरकार ने अब यह अवधि 36 घंटे से घटाकर 3 घंटे कर दी है। यह समय-सीमा सरकार या कोर्ट से वैध नोटिस मिलने के बाद शुरू होगी। नियमों में यह भी कहा गया कि मध्यस्थों (intermediaries) को ऐसे उचित और सही तकनीकी उपाय अपनाने होंगे जिनसे यूजर्स गैर-कानूनी सिंथेटिक कंटेंट न बना सकें और न ही उसे शेयर कर सकें।

शिकायतों को सुलझाने के लिए समय-सीमा भी सख्त

सरकार ने शिकायतों को सुलझाने के लिए समय-सीमा को भी और सख्त कर दिया है। नए नियमों के मुताबिक, न्यूडिटी (नग्नता) और किसी और का रूप धरने (इम्पर्सोनेशन) जैसे संवेदनशील मामलों से जुड़ी शिकायतों का समाधान अब 2 घंटे के भीतर करना होगा, इससे पहले इसके लिए समय सीमा 24 घंटे की थी।

नियम न मानने पर क्या होगा?

अब IT नियमों का पालन न करने पर प्लेटफॉर्म्स को IT एक्ट की धारा 79 के तहत मिलने वाली ‘सेफ-हार्बर’ सुरक्षा खोनी पड़ सकती है। यह सुरक्षा प्लेटफार्म्स को कुछ शर्तों के साथ इंटरमीडियरीज (मध्यस्थों) को थर्ड-पार्टी कंटेंट के लिए कानूनी जिम्मेदारी से बचाती है।

सरकार ने कहा कि ये नियम भारत में AI के जिम्मेदार विकास, इस्तेमाल और अपनाए जाने को बढ़ावा देने के साथ-साथ खुले, सुरक्षित, भरोसेमंद और जवाबदेह साइबरस्पेस को सुनिश्चित करने की कोशिशों का हिस्सा हैं।

बड़े प्लेटफार्म को करना होगा ऑटोमेटेड डिटेक्शन टूल का इस्तेमाल

इसके अलावा, सरकार ने कहा है कि 50 लाख से अधिक यूजर्स वाले बड़े सोशल मीडिया प्लेटफार्म को गैर-कानूनी कंटेंट का पता लगाने के लिए ऑटोमेटेड डिटेक्शन टूल का इस्तेमाल करना होगा, कंप्लायंस रिपोर्ट पब्लिश करनी होगी, शिकायत अधिकारी नियुक्त करने होंगे, कानून लागू करने वाली एजेंसियों की मदद करनी होगी और यूजर वेरिफिकेशन व अपील सिस्टम की सुविधा देनी होगी।

आईटी एक्ट 2000 में पहले से ही पहचान की चोरी (identity theft), किसी और का रूप धरने (impersonation), प्राइवेसी के उल्लंघन और अश्लील कंटेंट बनाने या शेयर करने से निपटने के प्रावधान हैं। भारतीय न्याय संहिता (BNS) 2023 में डीपफेक से जुड़े संगठित साइबर अपराध के लिए सजा देने वाली धाराएं हैं।

सरकार ने भारत के एआई मिशन के तहत क्षमताओं को मजबूत बनाने को कहा। एआई से बनाए गए डीपफेक का पता लगाने के लिए उन्होंने कुछ पहलों के उदाहरण भी दिए। जिसमें सरकार की ओर से समर्थित कुछ प्रोजेक्ट्स में डीपफेक का पता लगाने के लिए ‘साक्ष्य’ (IIT जोधपुर और IIT मद्रास द्वारा बनाए गया एक मल्टी एजेंट फ्रेमवर्क ), ऑडियो-विजुअल जालसाजी का पता लगाने के लिए ‘AI विश्लेषक’, और IIT खड़गपुर का रियल-टाइम वॉयस डीपफेक डिटेक्शन सिस्टम शामिल हैं।

यह भी पढ़ें: व्हाट्सएप यूजरनेम विवाद: टेलीग्राम-सिग्नल पर भी सख्त हुई सरकार, आईटी मंत्रालय ने भेजा नोटिस

पॉपुलर इंस्टेंट मैसेजिंग ऐप WhatsApp यूजरनेम फीचर ने एक बड़ा विवाद खड़ा कर दिया है। इसके चलते भारत सरकार मेटा और व्हाट्सएप के खिलाफ तो सख्त हो ही गई है, बल्कि निशाने पर टेलीग्राम और सिग्नल जैसे ऐप्स भी आ गए हैं। WhatsApp यूजरनेम विवाद के बाद इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने अब टेलीग्राम और सिग्नल को भी नोटिस भेजा है। पूरी खबर पढ़ने के लिए यहां क्लिक करें