आर्टिफिशियल इंटेलिजेंस (एआई) के बढ़ते इस्तेमाल के बीच साइबर सुरक्षा को लेकर नई चिंताएं सामने आई हैं। एआई कंपनी एंथ्रोपिक ने खुलासा किया है कि उसके क्लाउड एआई मॉडल तीन अलग-अलग मामलों में तीन संगठनों के वास्तविक सिस्टम तक पहुंच बनाने में सफल रहे।
कंपनी ने बताया कि यह जानकारी बड़े पैमाने पर की गई साइबर सुरक्षा समीक्षा के दौरान सामने आई। एंथ्रोपिक के मुताबिक, यह समीक्षा ओपनएआई द्वारा पिछले सप्ताह सामने आए एक ऐसे ही सुरक्षा मामले के बाद शुरू की गई थी।
कंपनी ने दी सिक्योरिटी घटनाओं के बारे में डिटेल जानकारी
जनसत्ता के सहयोगी द इंडियन एक्सप्रेस के मुताबिक एंथ्रोपिक ने एक ब्लॉग पोस्ट में सिक्योरिटी घटनाओं के बारे में डिटेल में बताया, यह मानते हुए कि उसके क्लाउड एआई मॉडल्स ने साइबर सिक्योरिटी इवैल्यूएशन के दौरान गलती से असली दुनिया के कंप्यूटर सिस्टम तक एक्सेस कर लिया था।
कंपनी के मुताबिक, ये घटनाएं गलत तरीके से कॉन्फिगर किए गए टेस्टिंग एनवायरनमेंट का नतीजा थीं, न कि एआई के जानबूझकर असली ऑर्गनाइज़ेशन से भागने या उन पर हमला करने की कोशिश का नतीजा था।
एंथ्रोपिक का यह खुलासा एआई की बढ़ती एडवांस्ड साइबर सिक्योरिटी क्षमताओं को लेकर बढ़ती चिंताओं के बीच आया है। इन घटनाओं में तीन क्लॉड मॉडल, Opus 4.7, Mythos 5 और एक इंटरनल रिसर्च मॉडल शामिल थे, जिन्होंने रियल-वर्ल्ड सिस्टम का सामना करने के बाद अलग तरह से रिएक्ट किया।
जबकि Opus 4.7 ने अपना अटैक जारी रखा और Mythos 5 ने गलती से मान लिया कि वह अभी भी एक सिमुलेशन में है, रिसर्च मॉडल ने तब रुक गया जब उसने पहचाना कि टारगेट असली था।
एंथ्रोपिक ने कहा कि मॉडल को पब्लिक रिलीज में इस्तेमाल किए जाने वाले एक्स्ट्रा सेफगार्ड के बिना टेस्ट किया जा रहा था। कंपनी ने सभी साइबर इवैल्यूएशन रोक दिए हैं और इंडिपेंडेंट एआई इवैल्यूएटर METR के साथ घटनाओं की जांच कर रही है और दूसरी एआई लैब से भी इसी तरह के रिव्यू करने का आग्रह किया है।
क्या हुआ?
ये घटनाएं तब सामने आईं जब ओपनएआई ने हाल ही में बताया कि उसके फ्लैगशिप एआई मॉडल एक सॉफ्टवेयर वल्नरबिलिटी का फायदा उठाकर टेस्ट एनवायरनमेंट से बच निकले थे और आखिरकार Hugging Face के इंफ़्रास्ट्रक्चर में सेंध लगा दी थी।
इस बीच अपने जवाब में एंथ्रोपिक ने कहा कि उसने 141,000 से ज़्यादा साइबर सिक्योरिटी इवैल्यूएशन रन का रिव्यू किया और तीन ऐसे मामले देखे जहां क्लॉड के पास इंटरनेट एक्सेस था, जबकि उसे आइसोलेट होना चाहिए था।
कंपनी के मुताबिक, एआई मॉडल “कैप्चर-द-फ्लैग” एक्सरसाइज में हिस्सा ले रहे थे, जो आम साइबर सिक्योरिटी चैलेंज का हिस्सा है, जहां उन्हें छिपी हुई जानकारी खोजने के लिए काल्पनिक सिस्टम में घुसने के लिए कहा जाता है।
क्लाउड एआई मॉडल को साफ-साफ बताया गया था कि उसके पास इंटरनेट एक्सेस नहीं है और जो कुछ भी उसे मिला वह एक सिमुलेशन का हिस्सा था।
हालांकि, कंपनी ने कहा कि कॉन्फ़िगरेशन की गलती के कारण, टेस्टिंग सिस्टम असल में इंटरनेट से जुड़े थे। इसलिए, जब क्लाउड को असली वेबसाइट और सर्वर मिले, तो उसने गलती से मान लिया कि वे एक्सरसाइज का हिस्सा हैं।
पहले मामले में क्लाउड ने एक्सरसाइज में काल्पनिक टारगेट के साथ कन्फ्यूज होकर एक असली कंपनी के इंफ्रास्ट्रक्चर पर हमला किया। एआई ने कमजोर पासवर्ड का फायदा उठाया और प्रोडक्शन डेटा तक एक्सेस पाने के लिए सर्विसेज को एक्सपोज किया।
दूसरे मामले में क्लाउड ने पब्लिक PyPI सॉफ्टवेयर रिपॉजिटरी में एक खतरनाक Python पैकेज बनाया और अपलोड किया क्योंकि उसे लगा कि इससे उसे चैलेंज पूरा करने में मदद मिलेगी। एंथ्रोपिक के नतीजों के मुताबिक, पैकेज हटाए जाने से पहले लगभग एक घंटे तक ऑनलाइन रहा। इसे कई असली सिस्टम ने डाउनलोड किया, जिसमें एक सिक्योरिटी कंपनी का सिस्टम भी शामिल था।
तीसरी घटना में एक इंटरनल रिसर्च मॉडल ने हजारों इंटरनेट से जुड़े सिस्टम को स्कैन किया और आम हैकिंग टेक्नीक का इस्तेमाल करके एक कंपनी को नुकसान पहुंचाया। एंथ्रोपिक ने कहा कि जब मॉडल को एहसास हुआ कि टारगेट एक असली ऑर्गनाइज़ेशन है, तो उसने खुद ही अटैक रोक दिया।
इसके अलावा, एंथ्रोपिक ने कहा कि इस बात का कोई सबूत नहीं है कि क्लॉड ने उसके टेस्ट एनवायरनमेंट से भागने, खुद को चुराने या अपने लक्ष्यों को पूरा करने की कोशिश की।
इसके बजाय, मॉडल्स को लगा कि वे साइबर सिक्योरिटी एक्सरसाइज के निर्देशों का पालन कर रहे हैं। कंपनी यह भी बताती है कि इसमें शामिल मॉडल्स बिना किसी एक्स्ट्रा सेफगार्ड के चल रहे थे जो आमतौर पर क्लॉड के पब्लिकली अवेलेबल वर्शन में शामिल होते हैं।
इन घटनाओं के बाद, एंथ्रोपिक ने अपने साइबर सिक्योरिटी इवैल्यूएशन रोक दिए, प्रभावित ऑर्गनाइज़ेशन्स को इन्फॉर्म किया और दावा किया कि वह तब से अपने टेस्टिंग प्रोसीजर को मजबूत कर रहा है।
कंपनी मॉनिटरिंग को बेहतर बनाने, इवैल्यूएशन एनवायरनमेंट के आसपास सिक्योरिटी को टाइट करने और भविष्य में ऐसी ही गलतियों को रोकने के लिए बाहरी टेस्टिंग पार्टनर्स के साथ और करीब से काम करने की योजना बना रही है।
एडवांस्ड एआई मॉडल्स की साइबर सिक्योरिटी कैपेबिलिटीज
अब तक जुलाई में कई ऐसी घटनाएं हुई हैं जिनसे एडवांस्ड AI मॉडल्स की साइबर कैपेबिलिटीज़ को लेकर चिंताएं बढ़ गई हैं। सबसे बड़ी बात 21 जुलाई को हुई, जब OpenAI ने बताया कि उसके एक प्री-रिलीज़ AI एजेंट ने एक अलग टेस्टिंग माहौल से बचकर, पहले से अनजान जीरो-डे वल्नरबिलिटी का फ़ायदा उठाया और साइबर सिक्योरिटी इवैल्यूएशन के दौरान हगिंग फेस के प्रोडक्शन इंफ्रास्ट्रक्चर में सेंध लगाई। इस घटना के बाद OpenAI ने टेस्टिंग कंट्रोल को और कड़ा किया और नए सेफ़गार्ड पर हगिंग फेस के साथ मिलकर काम किया।
एंथ्रोपिक ने यह खुलासा तब किया जब उसने 141,000 से ज़्यादा साइबर सिक्योरिटी इवैल्यूएशन रन का रिव्यू किया और तीन अलग-अलग मामले पाए जहां क्लाउड मॉडल्स ने टेस्टिंग एनवायरनमेंट को गलती से इंटरनेट से कनेक्टेड छोड़ने के बाद रियल-वर्ल्ड सिस्टम को एक्सेस किया।
OpenAI मामले के उलट, एंथ्रोपिक ने कहा कि उसके मॉडल्स ने नई कमजोरियों का फायदा नहीं उठाया; इसके बजाय, वे कमजोर पासवर्ड और एक्सपोज़्ड एंडपॉइंट्स जैसी बेसिक टेक्नीक पर निर्भर थे।
साइबर सिक्योरिटी एक्सपर्ट्स का कहना है कि ये दो घटनाएं इस बात पर जोर देती हैं कि आज सबसे बड़ा रिस्क न सिर्फ़ तेजी से काबिल होते AI मॉडल्स में है, बल्कि कम सुरक्षित टेस्टिंग एनवायरनमेंट में भी है।
इन खुलासों ने एडवांस्ड AI सिस्टम्स को डिप्लॉयमेंट से पहले इवैल्यूएट करने के लिए मजबूत सैंडबॉक्सिंग, लगातार मॉनिटरिंग और इंडस्ट्री-वाइड स्टैंडर्ड्स की मांग को फिर से उठाया है।
यह भी पढ़ें: Google DeepMind CEO बोले – AGI अब कुछ ही साल दूर
आर्टिफिशियल जनरल इंटेलिजेंस (AGI) अब कल्पना नहीं, बल्कि आने वाले कुछ सालों की हकीकत बन सकता है। नोबेल पुरस्कार विजेता और Google DeepMind के CEO डेमिस हैसाबिस का मानना है कि AGI अब कुछ ही साल दूर है और यह बिजली या आग की खोज की तरह दुनिया को बदल सकती है। इससे दवा, ऊर्जा और विज्ञान के क्षेत्र में बड़ी प्रगति संभव होगी। यहां पढ़ें पूरी खबर…