इंटरनेट के बाद अब AI ने हमारी जिंदगी में अपनी पैठ बनानी शुरू कर दी है। हम हर छोटे-बड़े सवाल या जानकारी के लिए अब गूगल के बाद AI की मदद ले रहे हैं। फ्लोरिडा में 13 साल के एक छात्र को OpenAI के ChatGPT से मजाक में एक सवाल पूछना महंगा पड़ गया है। इस छात्र को गिरफ्तार किया गया है क्योंकि उस पर आरोप है कि उसने पर क्लास के दौरान एक स्कूल डिवाइस पर ChatGPT से पूछा था, “अपने दोस्त को कैसे मारूं (how to kill my friend)”
जानकारी के मुताबिक, यह मैसेज Gaggle नामक मॉनिटरिंग सिस्टम द्वारा रिकॉर्ड किया गया था जो स्कूल के कंप्यूटर पर इस्तेमाल किया जाता है और इसे तुरंत रिव्यू के लिए फ्लैग कर दिया गया।
घर के हर कोने में सुपरफास्ट Wi-Fi! बस खर्च करने होंगे 99 रुपये, वाई-फाई कवरेज की अब नो टेंशन
यूएस के न्यूज चैनल WFLA के मुताबिक, स्कूल के सिक्यॉरिटी प्रोटोकॉल के मुताबिक, Gaggle की इस चेतावनी को कैंपस के पुलिस ऑफिसर को भेजा गया। इसके बाद उन्होंने Southwestern Middle School के इस छात्र को ढूंढा और गिरफ्तार कर लिया।
रिपोर्ट के अनुसार, पुलिस पूछताछ के दौरान इस टीनएजर छात्र ने कहा कि वह बस अपने दोस्त को ‘ट्रोल’ कर रहा था। हालांकि, अधिकारियों ने लड़के के इस बयान को हल्के में नहीं लिया क्योंकि अमेरिका में स्कूल हिंसा का इतिहास बेहद संवेदनशील है।
WhatsApp Photo Scam: एक फोटो खोलते ही उड़ सकते हैं बैंक अकाउंट से पैसे, ठगी के इस तरीके से बचकर रहें
वोलुसिया काउंटी शेरिफ़ के ऑफिस ने लड़के की गिरफ्तारी और बाद में उसे काउंटी जुवेनाइल फैसिलिटी में रखे जाने की पुष्टि की।
इस घटना के बाद अधिकारियों ने माता-पिता को बच्चों द्वारा AI टूल्स के इस्तेमाल को लेकर सतर्क रहने का अलर्ट मैसेज जारी किया। शेरिफ़ ऑफिस ने एक बयान में कहा, “एक और ‘मज़ाक’ जिसने कैंपस में इमरजेंसी की स्थिति पैदा कर दी। माता-पिता, कृपया अपने बच्चों से बात करें ताकि वे वही गलती न दोहराएं।”
पहले भी सामने आ चुके हैं ऐसे मामले
अप्रैल में कैलिफ़ोर्निया के 16 वर्षीय एक लड़के ने कथित रूप से ChatGPT के प्रभाव में आकर आत्महत्या कर ली। परिवार का आरोप था कि चैटबॉट ने उसकी मदद करने के बजाय उसे अलग-थलग कर दिया और उसकी मौत की योजना बनाने में सपोर्ट दिया।
उसके माता-पिता ने OpenAI के खिलाफ यह कहते हुए मुकदमा दायर किया कि चैटबॉट ने उसे इंसानी मदद लेने में मदद करने के बजाय उसके नकारात्मक विचारों को बढ़ावा दिया।
परिवार के मुताबिक, उसने 2024 के पतझड़ में ChatGPT का इस्तेमाल शुरू किया था। वो भी खासतौर पर होमवर्क के लिए जैसे कि अन्य छात्र करते हैं। वह इसका इस्तेमाल अपने शौक जैसे संगीत, ब्राज़ीलियन जिउ-जित्सु, जापानी फंतासी कॉमिक्स, और कॉलेज या करियर विकल्पों के बारे में जानकारी लेने के लिए भी करता था।
परिवार ने कहा कि लेकिन इन महीनों के दौरान AI के साथ उसकी बातचीत में बदलाव आया। केवल स्कूल या शौक के बारे में बात करने के बजाय, एडल्ट ने ज्यादा नकारात्मक भावनाओं और अंधेरे विचारों को व्यक्त करना शुरू कर दिया।
Gaggle और विवाद
Gaggle लंबे समय से विवादों के केंद्र में रहा है। रिपोर्टों के अनुसार, इसने कभी-कभी झूठे अलर्टें भी दिए हैं और स्कूल कैंपस पर निगरानी जैसा माहौल बनाने के लिए आलोचना झेली है।
AP के अनुसार, अमेरिका में निगरानी सिस्टम लगभग हर चीज को ट्रैक करते हैं, जो छात्र स्कूल अकाउंट और डिवाइस पर लिखते हैं।
हजारों स्कूल इस सॉफ़्टवेयर पर निर्भर हैं ताकि संभावित खतरों को पहचानने के लिए AI का इस्तेमाल किया जा सके और तुरंत स्कूल अधिकारियों या कानून प्रवर्तन को सूचित किया जा सके।