एलन मस्क के एआई चैटबॉट Grok पर इंडोनेशिया और मलेशिया ने बैन लगा दिया है। xAI के आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट को दुनियाभर में आलोचना का सामना करना पड़ रहा है। बता दें कि ग्रोक, X (ट्विटर) पर सार्वजनिक रूप से पोस्ट की गई यूज़र्स की तस्वीरों को एडिट कर रहा है। इस फीचर का कुछ यूज़र्स ने गलत इस्तेमाल भी किया है और बिना सहमति के दूसरों की आपत्तिजनक तस्वीरें बनाना शुरू कर दिया। इसके बाद यूरोपीय संघ (EU), भारत, इंडोनेशिया और मलेशिया सहित कई देशों ने सोशल मीडिया प्लेटफॉर्म और xAI से सुरक्षा उपायों (सेफ्टी गार्डरेल्स) को लेकर सवाल उठाए।
इंडोनेशिया और मलेशिया में Grok पर बैन
X पर एक पोस्ट में मलेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन (MCMC) के आधिकारिक हैंडल ने एक बयान जारी किया। उन्होंने कहा कि एलन मस्क के मालिकाना हक वाले सोशल मीडिया प्लेटफॉर्म द्वारा जरूरी सुरक्षा उपाय लागू ना किए जाने के चलते देश में Grok को अस्थायी रूप से ब्लॉक किया जा रहा है।
आधिकारिक बयान के मुताबिक, ‘यह कार्रवाई Grok के बार-बार गलत के बाद की गई जिसमें अश्लील कॉन्टेन्ट, sexually explicit content, बेहद आपत्तिजनक सामग्री और बिना सहमति के तस्वीरें एडिट की जा रही थीं जिसमें महिलाओं और बच्चों से जुड़ा कंटेंट भी शामिल था। यह सब तब हुआ, जब X और xAI को नियामकीय चेतावनियां (regulatory engagements) जारी की जा चुकी थीं।’
गौर करने वाली बात है कि नियामक ने कहा था कि 3 जनवरी और 8 जनवरी को खास तौर पर दोनों संस्थाओं को नोटिस भेजकर प्रभावी तकनीकी सुरक्षा उपायों और कॉनटेन्ट की निगरानी करने वाले सिस्टम लागू करने की मांग की थी।
MCMC ने दावा किया कि इसके जवाब में X ने केवल यूजर द्वारा की जाने वाली रिपोर्टिंग व्यवस्था पर ही ध्यान दिया और ऐसे AI टूल से पैदा होने वाले खतरों से सीधे निपटने का कोई ठोस समाधान नहीं दिया। जो एकदम असली जैसे दिखने वाले डीपफेक बना सकता है।
शनिवार को इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हाफिद ने भी एक बयान जारी कर देश में Grok की सेवाओं पर अस्थायी प्रतिबंध लगाने की घोषणा की। बयान में कहा गया, “आर्टिफिशियल इंटेलिसेंज टेक्नोलॉजी का इस्तेमाल कर बनाए जा रहे फर्जी अश्लील कॉन्टेन्ट के खतरे से महिलाओं, बच्चों और पूरे समाज की सुरक्षा के लिए सरकार ने संचार और डिजिटल मंत्रालय के जरिए Grok एप्लिकेशन तक एक्सेस को अस्थायी रूप से रोक दिया है।”
