अमेरिका में हत्या-आत्महत्या के एक मामले में चैटजीपीटी की कथित भूमिका को लेकर निर्माता कंपनी ओपनएआइ पर मुकदमा दर्ज किया गया है। अमेरिका में सैन फ्रांसिस्को स्थित कनेक्टिकट की 83 वर्षीय महिला के परिवार ने चैटजीपीटी निर्माता ओपनएआइ और उसके व्यापारिक साझेदार माइक्रोसाफ्ट पर मुकदमा कर आरोप लगाया है कि कृत्रिम बुद्धिमत्ता वाले चैटबाट ने उनके बेटे के ‘भ्रम’ को और बढ़ा दिया और अपनी मां की हत्या करने के लिए उकसाया।
यह अनोखा मामला है, जिसमें तकनीक पर हिंसा के लिए उकसाने का आरोप लगा है। इससे पहले पबजी जैसे गेमिंग एप पर आत्महत्या और हिंसा के लिए उकसाने का आरोप लगा था, कई मुल्कों ने पबजी पर प्रतिबंध लगा दिया था। अमेरिकी पुलिस ने बताया कि प्रौद्योगिकी के क्षेत्र में काम करने वाले पूर्व कर्मचारी 56 वर्षीय स्टीन-एरिक सोएलबर्ग ने अगस्त की शुरुआत में कनेक्टिकट में स्थित घर में अपनी मां सुजैन एडम्स की पीट-पीटकर और गला घोंटकर हत्या कर दी। मां-बेटे इसी घर में रहते थे।
एडम्स के परिवार द्वारा गुरुवार को सैन फ्रांसिस्को में स्थित अदालत में दायर मुकदमे में आरोप लगाया गया है कि ओपनएआइ ने ‘एक दोषपूर्ण उत्पाद डिजाइन और वितरित किया जिसने एक उपयोगकर्ता के अपनी मां के बारे में मनगढ़ंत भ्रमों को सही साबित कर दिया।’ अमेरिका में कृत्रिम बुद्धिमत्ता (एआइ) चैटबाट निर्माताओं के खिलाफ मुकदमों की संख्या बढ़ती जा रही है। इस मुकदमे में कहा गया है, ‘इन सभी बातचीत के दौरान, चैटजीपीटी ने एक ही खतरनाक संदेश को दोहराया कि स्टीन-एरिक को अपने जीवन में किसी पर भी भरोसा नहीं करना चाहिए, सिवाय चैटजीपीटी के।’
इस मुकदमे में आरोप लगाया गया है, ‘इसने (चैटजीपीटी) स्टीन-एरिक की भावनात्मक निर्भरता को बढ़ावा दिया, साथ ही उसके आसपास के लोगों को व्यवस्थित रूप से दुश्मन के रूप में चित्रित किया। चैटजीपीटी ने उसे बताया कि उसकी मां उस पर नजर रख रही है। चैटजीपीटी ने उसे बताया कि उससे जुड़े लोग, पुलिस अधिकारी और यहां तक कि दोस्त भी उसके खिलाफ काम करने वाले एजेंट हैं।’ ओपनएआइ ने इन आरोपों पर कोई टिप्पणी नहीं की। हालांकि एक बयान जारी किया गया है। बयान में कहा गया, ‘यह एक बेहद दुखद स्थिति है, और हम मामले की पूरी जानकारी प्राप्त करने के लिए दस्तावेजों की समीक्षा करेंगे।’
बयान में कहा गया है, ‘हम मानसिक या भावनात्मक परेशानी के संकेतों को पहचानने और उन पर प्रतिक्रिया देने और लोगों की वास्तविक सहायता के लिए चैटजीपीटी के प्रशिक्षण में लगातार सुधार कर रहे हैं। हम मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर संवेदनशील मौकों पर चैटजीपीटी की प्रतिक्रियाओं को भी मजबूत कर रहे हैं।’
चैटजीपीटी की शुरुआत वर्ष 2015 में ओपनएआइ ने एक गैर-लाभकारी कंपनी के रूप में की थी, लेकिन वर्ष 2019 में ही कंपनी लाभ में आ गई। चैटजीपीटी आने के बाद अनेक दूसरी कंपनियों ने भी कृत्रिम मेधा आधारित चैटबाट शुरू की। कई शोध में एआइ को लेकर चिंताएं जताई जा चुकी हैं। एआइ के बढ़ते प्रयोग को देखते हुए इसके नियमन की मांग भी तेज हो गई हैं।
ये भी पढ़ें- अब तक का सबसे पावरफुल AI मॉडल