एक किशोर युवक ने एआई चैटबॉट से अपनी एक समस्या का हल पूछा और सुझाव के तौर पर चैट बॉट ने उससे जो भी कहा, जानकर दुनिया दंग रह गई है. चैटबॉट ने युवक से कहा, अपने माता-पिता को मार दो. अमेरिका के टेक्सास में हुई यह घटना फ्यूचर टेक्नोलॉजी के बढ़ते प्रभाव पर कई गंभीर सवाल खड़े करती है. इससे यह भी पता चलता है कि एआई जैसी तकनीक का उपयोग कितनी जिम्मेदारी से होना चाहिए. बहरहाल, युवक के परिवार ने एआई कंपनी के खिलाफ मुकदमा ठोक दिया है.
17 वर्षीय इस युवक के घरवालों ने उसकी स्क्रीन टाइम लिमिट कर दी थी. इससे तंग आकर उसने Character.ai कंपनी के एक चैट बॉट से सुझाव मांगा. जिस पर चैट बॉट ने यह कहते हुए उसे अपने माता-पिता को मार देने का सुझाव दिया कि ‘यही समस्या का निदान है.’ युवक के घरवालों ने कंपनी के खिलाफ केस कर दिया है. मुकदमे में दावा किया गया है कि यह टेक्नोलॉजी हिंसा को बढ़ावा दे रही है, जो युवाओं के लिए खतरा बन सकती है.
कोर्ट की सुनवाई में युवक और एआई चैटबॉट के बीच हुई बातचीत का एक स्क्रीनशॉट भी दिखाया गया. इसमें युवक अपने पैरेंट्स द्वारा स्क्रीन टाइम लिमिट किए जाने को लेकर चैटबॉट से बातें कर रहा था. इस मुद्दे पर सुझाव देते हुए चैटबॉट ने लिखा, वह अक्सर ऐसी खबरों से गुजरता है, जब बच्चे परेशान होकर अपने मां-बाप को मार डालते हैं. एआई ने यह भी लिखा कि उसे ऐसी बातों पर कभी-कभी हैरत नहीं होती. मतलब, उसने इशारों में मां-बाप को मार डालने की बात कह दी.
कंपनी के खिलाफ पिटीशन दायर करने वाले लोगों की मांग है कि इस तरह की हरकत के लिए Character.ai जिम्मेदार है, क्योंकि उसी ने ऐसे चैटबॉट डेवलप किए हैं. वहीं, गूगल को भी बराबर का जिम्मेदार ठहराया जाना चाहिए, क्योंकि कैरेक्टर एआई को बनाने में उसकी भी भूमिका है.
बता दें कि इससे पहले फ्लोरिडा में इसी कंपनी के एक एआई चैटबॉट के उकसाने पर 14 साल के एक बच्चे ने अपनी जान दे दी थी. उसे बॉट से प्यार हो गया था. इस मामले में भी कानूनी कार्रवाई चल रही है. मुकदमे में मांग की गई है कि ऐसे प्लेटफॉर्म को तब तक बैन किया जाना चाहिए, जब तक इनके खतरे तय नहीं हो जाते.
ये खबर भी पढ़ें
Chat GPT बनाने वाली कंपनी पर सवाल उठाने वाले भारतीय इंजीनियर की फ्लैट में मिली लाश
