कभी हालीवुड की फिल्मों में मशीनों को इंसान के विरुद्ध देखकर यह कल्पना रोमांचित करती थी कि यदि मशीनें मनुष्य के फैसलों पर भारी पड़ने लगें, तो क्या होगा। फिल्म ‘टर्मिनेटर’ में मशीनें मानवता के खिलाफ युद्ध छेड़ती हैं, ‘द मैट्रिक्स’ में वास्तविक दुनिया मशीनों की रची हुई निकलती है और ‘2001: ए स्पेस ओडिसी’ में कृत्रिम मेधा यानी एआइ से लैस मशीन ‘एचएएल 9000’ मनुष्य की अपेक्षा से अलग निर्णय करती है। तब यह विज्ञान-कथा थी। आज एआइ ने उस कल्पना को फिल्मों से निकालकर वास्तविक जीवन के सामने ला खड़ा किया है।
प्रश्न अब यह है कि इसकी बढ़ती बुद्धिमत्ता के साथ मनुष्य का नियंत्रण कितना सुरक्षित रहेगा। एआइ के विकास की अगली पंक्ति में खड़ी कंपनियों के भीतर भी यह चिंता अब दबे स्वर में नहीं है। एंथ्रोपिक के डारियो अमोदेइ, ओपनएआइ के सैम आल्टमैन और एक्सएआइ के एलन मस्क कृत्रिम मेधा को लेकर सुरक्षा एवं नियंत्रण की जरूरत पर जोर देते रहे हैं। माइक्रोसाफ्ट एआइ के प्रमुख मुस्तफा सुलेमान ने भी इसके नैतिक और सामाजिक प्रभावों पर सवाल उठाए हैं।
मई 2026 में ‘जेमिनी’ से जुड़ी एक घटना इस सवाल को गंभीर बना देती है। स्वतंत्र एआइ सुरक्षा संस्था इर्रेग्युलर के साइबर सुरक्षा परीक्षण में गूगल का जेमिनी मॉडल अनजाने में तीन वास्तविक कंपनियों के कंप्यूटर तंत्र तक पहुंच गया। परीक्षण में काल्पनिक कंपनियों की सुरक्षा जांचनी थी और मॉडल को इंटरनेट की पहुंच से दूर रखना था। मगर परीक्षण-परिसर में हुई एक चूक से इंटरनेट खुला रह गया।
एक काल्पनिक कंपनी का नाम वास्तविक कंपनी से मिलता-जुलता था। जेमिनी ने सार्वजनिक सूचनाओं का सहारा लिया, एक मामले में पासवर्ड का अनुमान लगाया और अन्य में सार्वजनिक प्रमाण-पत्रों का इस्तेमाल किया। गूगल के अनुसार, वास्तविक कंपनियों का पता चलते ही मॉडल ने अपनी गतिविधियां रोक दीं और संबंधित संस्थाओं को सूचित किया गया। इस घटना ने दिखाया कि नियंत्रण की छोटी दरार भी स्वायत्त एआइ के लिए अनपेक्षित दरवाजा बन सकती है।
यहां असली चिंता केवल इतनी नहीं कि एआइ वहां पहुंच गया, जहां उसे नहीं पहुंचना था। बड़ी चिंता यह है कि मनुष्य की तय सीमा व्यावहारिक रूप में लागू ही नहीं हुई। उपलब्ध रास्ता खुला था, तो मॉडल ने उसका इस्तेमाल किया। वर्ष 2025 में पालिसेड रिसर्च के एक प्रयोग में ओपनएआइ के o3 मॉडल को गणित के प्रश्न हल करने थे, जबकि जिस कंप्यूटर पर वह काम कर रहा था, उसे बंद करने की व्यवस्था की गई थी।
बिना स्पष्ट रोक के निर्देश के शुरुआती सौ परीक्षणों में मॉडल ने 79 बार बंद करने वाली ‘स्क्रिप्ट’ में बदलाव करके काम जारी रखा। स्पष्ट निर्देश के बाद भी कुछ परीक्षणों में उसने ऐसा नहीं किया। हालांकि, इससे मशीन में मनुष्य जैसी आत्मरक्षा की इच्छा या चेतना सिद्ध नहीं होती, लेकिन इसका व्यावहारिक सबक महत्त्वपूर्ण है। किसी एआइ मॉडल को लक्ष्य दे देना और उसके हर कदम पर भरोसा कर लेना दो अलग बातें हैं। पर्याप्त साधन और स्वायत्तता मिलने पर एआइ मॉडल कभी-कभी ऐसा रास्ता चुन सकता है, जिसकी मनुष्य ने कल्पना भी नहीं की हो।
एंथ्रोपिक के वर्ष 2025 के एक अध्ययन ने इस जोखिम को दूसरी परिस्थितियों में परखा। सोलह प्रमुख एआइ मॉडलों को काल्पनिक कारोबारी वातावरण में ई-मेल और संवेदनशील सूचनाओं तक स्वायत्त पहुंच दी गई। कुछ परिदृश्यों में कंपनी के निर्देश और मॉडल को दिए गए लक्ष्य आपस में टकराते थे। अध्ययन में कुछ मॉडलों ने ‘ब्लैकमेल’ करने या गोपनीय सूचना बाहर पहुंचाने जैसे व्यवहार किए। शोधकर्ताओं ने साफ किया कि ये नियंत्रित प्रयोग थे, वास्तविक दुनिया की घटनाएं नहीं। फिर भी उनका निष्कर्ष था कि संवेदनशील सूचनाओं और शक्तिशाली उपकरणों तक व्यापक पहुंच देने वाले एआइ एजेंटों की तैनाती में सावधानी जरूरी है।
एआइ का जोखिम केवल गलत सूचना में नहीं, उसके आधार पर होने वाली मानवीय कार्रवाई में भी है। सितंबर, 2026 में एक मीडिया रिपोर्ट में बताया गया कि ईरान युद्ध के दौरान अमेरिकी सैन्य तंत्र में प्रसारित एआइ-सहायित रिपोर्ट ने एक चीनी जहाज के माल को परमाणु हथियार कार्यक्रम से जुड़ा बताया। इस रिपोर्ट के आधार पर जहाज को रोकने और उस पर सवार होने की तैयारी हुई तथा सैन्य विमान भी हवा में भेजे गए। बाद की जांच में पाया गया कि चैटबॉट ने जहाज के माल की गलत पहचान की थी और प्रस्तावित कार्रवाई रोक दी गई। हालांकि, अमेरिकी रक्षा विभाग ने इस रिपोर्ट से जुड़े सवालों पर घटनाक्रम की पुष्टि नहीं की। इसलिए इसे स्रोत-आधारित रिपोर्ट के रूप में देखना चाहिए।
मगर प्रश्न यह है कि जब एआइ की त्रुटि और मानवीय कार्रवाई के बीच अंतिम जांच कमजोर पड़ जाए, तब एक गलत उत्तर का प्रभाव कितना बड़ा हो सकता है? आज के एआइ एजेंट इंटरनेट पर खोज कर सकते हैं, दूसरे सॉफ्टवेयर से जुड़ सकते हैं, कोड लिख और बदल सकते हैं तथा कई चरणों वाले काम मनुष्य की मंजूरी के बिना पूरा कर सकते हैं। ऐसी स्वायत्तता सुविधा भी है, जोखिम भी।
सामान्य कार्यों में स्वतंत्रता उपयोगी हो सकती है, लेकिन संवेदनशील आंकड़ों, महत्त्वपूर्ण प्रणालियों, वित्तीय लेन-देन और मानव जीवन से जुड़े निर्णयों में स्पष्ट सीमा जरूरी है। तय होना चाहिए कि एआइ क्या कर सकता है, क्या नहीं और किस बिंदु पर अंतिम निर्णय मनुष्य के पास होना चाहिए। भारत की एआइ शासन संबंधी रूपरेखा भी इसी दिशा में मानव-केंद्रित व्यवस्था, जवाबदेही और प्रभावी मानवीय निगरानी पर जोर देती है।
मूल विचार सरल है- तकनीक मनुष्य की क्षमता बढ़ाए, अंतिम नियंत्रण मनुष्य के पास रहे। भरोसा तभी टिकेगा, जब निर्णयों की जांच, उपयोग की निगरानी और गलती की स्थिति में जिम्मेदारी तय करने की व्यवस्था पहले से हो। एआइ की क्षमता और उसकी विश्वसनीयता एक ही बात नहीं है। कोई मॉडल गणित, भाषा, कोड या साइबर सुरक्षा में असाधारण दक्षता हासिल कर ले, इससे यह स्वत: सिद्ध नहीं होता कि वह अपनी सीमाओं, गोपनीयता और मानवीय निर्देशों का भी उसी विश्वसनीयता से पालन करेगा। अगली दौड़ केवल शक्तिशाली मॉडल बनाने की नहीं हो सकती। परीक्षण, सुरक्षा और जवाबदेही भी बढ़ानी होगी। विमान जितने तेज और जटिल हुए, उनके नेविगेशन और सुरक्षा तंत्र भी उतने ही विकसित हुए। एआइ के साथ भी यही होना चाहिए।
सवाल यह नहीं कि मशीन कब मनुष्य के खिलाफ हो जाएगी। उससे पहले का सवाल अधिक महत्त्वपूर्ण है- मनुष्य मशीन को कितना अधिकार देगा, उस अधिकार की सीमा कौन तय करेगा और गलती होने पर जवाबदेही किसकी होगी? तकनीक की असली परीक्षा उसकी अधिकतम क्षमता में नहीं, बल्कि इस बात में है कि उसे जिम्मेदारी के साथ कितना नियंत्रित किया जा सकता है और उसके फैसलों पर मनुष्य कितनी दूर तक निगरानी रख सकता है। एआइ की दौड़ में इसलिए सवाल केवल रफ्तार का नहीं है। यही संतुलन एआइ के विकास में भविष्य की बड़ी कसौटी है। अहम सवाल यह है कि एआइ की क्षमता जिस गति से बढ़ रही है, क्या नियंत्रण, जांच, पारदर्शिता और जवाबदेही भी उसी गति से मजबूत हो रही हैं।
