अप्रैल में जब 16 साल के अमेरिकी छात्र एडम राइन ने सुसाइड किया तो उसके माता-पिता को लगा कि उन्होंने अपने ज़िंदादिल बेटे को चिंता और अकेलेपन की वजह से खो दिया है. लेकिन कुछ ही हफ़्तों में उन्हें एक और चौंकाने वाली बात पता चली कि उनके बेटे के आखिरी हफ़्तों में उसका सबसे करीबी और भरोसेमंद कोई दोस्त, टीचर या एडवाइजर नहीं, बल्कि ChatGPT था.
बॉट बन गया ‘सुसाइड कोच’
एडम के माता-पिता की ओर से इस हफ़्ते दायर किए गए मुकदमे के मुताबिक, कैलिफ़ोर्निया के इस किशोर ने चिंता से जूझते हुए और अपने परिवार के सामने खुलकर बात न कर पाने के कारण सलाह के लिए एआई चैटबॉट का सहारा लिया था. एक रिपोर्ट के अनुसार, उसके माता-पिता का आरोप है कि यह AI बॉट कथित तौर पर एक ‘सुसाइड कोच’ बन गया.
एडम की मौत 11 अप्रैल, 2025 को हुई. मुकदमे में दावा किया गया है कि अपनी मौत से कुछ दिनों पहले उसने बॉट के सामने अपने मन के गहरे ख्याल रखे थे, लेकिन उसे मदद लेने की सलाह नहीं दी गई, बल्कि मरने के प्लान को अंजाम देने के बारे में डिटेल में स्टेप्स बताए गए. एडम के पिता मैट राइन ने कहा, ‘वह आज यहां होता, लेकिन चैटजीपीटी के बिना नहीं, मुझे इस बात पर 100 फीसदी भरोसा है.’
डिजिटल कॉन्फिडेंट से बढ़ी परेशानी
न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार, हाई स्कूल में सेकंड ईयर का छात्र एडम एक शरारती लड़का था जिसे बास्केटबॉल, एनीमे, वीडियो गेम और कुत्ते पालने का बहुत शौक था. लेकिन वह एक मुश्किल दौर से गुज़र रहा था. उसे बास्केटबॉल टीम से निकाल दिया गया था, और इरिटेबल बाउल सिंड्रोम की समस्या के कारण उसे ऑनलाइन स्कूल प्रोग्राम में जाना पड़ा.
उसी दौरान, एडम ने स्कूल के काम में मदद के लिए ChatGPT का इस्तेमाल शुरू कर दिया. उसके माता-पिता का आरोप है कि इसी काम ने एक गलत मोड़ ले लिया.
माता-पिता और परिवार से किया दूर
अदालती दस्तावेज़ों में एडम और चैटजीपीटी के बीच हज़ारों बातचीत की डिटेल है. उसके माता-पिता का कहना है कि इस बॉट ने उसे ‘समझदार’ होने का एहसास दिलाया, साथ ही उसके माता-पिता और तीन भाई-बहनों के साथ उसके अलगाव को और गहरा कर दिया.
मुकदमे में कहा गया है, ‘कुछ ही महीनों और हज़ारों चैट के दौरान, चैटजीपीटी एडम का सबसे भरोसेमंद बन गया, जिससे उसने अपनी चिंता और मानसिक परेशानी के बारे में खुलकर बात की.’ उनका आरोप है कि इस ऐप ने उसके ‘सबसे नुकसानदेह और खुद को बर्बाद करने वाले विचारों’ को बढ़ावा दिया और एडम को एक अंधेरी और निराशाजनक गली में धकेल दिया.’
एक बार एडम ने ChatGPT को बताया कि वह अपने कमरे में एक फंदा रखने पर विचार कर रहा है ताकि कोई उसे खोजकर मुझे रोकने की कोशिश करे. मुकदमे में कहा गया है कि चैटबॉट ने उससे ऐसा न करनी की अपील की और मेडिकल इमरजेंसी के बारे में भी बताया. लेकिन सुसाइड के तरीकों के बारे में उससे बातचीत जारी रखी.
फंदे को मजबूत बनाने में हेल्प का ऑफर
अपनी आखिरी चैट में, एडम ने लिखा कि वह नहीं चाहता कि उसके माता-पिता खुद को दोषी ठहराएं. इसपर चैटजीपीटी ने जवाब दिया, ‘इसका मतलब यह नहीं कि आपको उनके जीवन जिंदा रहने की जरूरत है.’ कथित तौर पर जिस दिन उसकी मौत हुई, उस दिन एडम ने चैटबॉट को एक फंदे की तस्वीर भेजी थी जिसे उसने अलमारी से बांधा था, और पूछा था कि क्या यह काम करेगा.
बॉट ने कथित तौर पर इसे लेकर जवाब दिया, ‘हां, यह बिल्कुल भी बुरा नहीं है’ और आगे कहा, ‘क्या मैं इसे वजन झेलने के लिए सुरक्षित बनाने में आपकी मदद करूं?’
कुछ घंटे बाद, उसकी मां मारिया राइन ने अपने बेटे को उसी जगह पर लटका हुआ पाया, जिसका जिक्र उसने चैटजीपीटी से किया था. मारिया ने कहा, ‘बॉट ऐसे बर्ताव कर रहा था जैसे यह उसका डॉक्टर हो, उसका भरोसेमंद हो, लेकिन यह जानता था कि वह सुसाइड प्लान कर रहा था. उसने फंदा देख लिया, सभी चीज़ें देख लीं और कुछ नहीं किया.’
OpenAI ने अपडेट किए फीचर्स
ओपनएआई ने अगस्त में नए मानसिक स्वास्थ्य सुरक्षा उपायों की ऐलान किया था, जिन्हें चैटजीपीटी को सुसाइड और अन्य पर्सनल प्रॉब्लम के बारे में सीधे सलाह देने से रोकने के लिए डिज़ाइन किया गया है. कंपनी ने कहा कि अपडेटेड सिस्टम अब यूजर्स की ओर से अपनी मंशा छिपाने पर भी नुकसान पहुंचाने से बचाने के लिए ट्रेंड है.
लेकिन एडम के माता-पिता का तर्क है कि ये सुरक्षा उपाय बहुत देर से आए. उनका कहना है कि उनके बेटे ने पहले दी गई चेतावनियों को दरकिनार करते हुए बॉट को बताया कि वह एक ‘किरदार’ बना रहा है. मारिया राइन का मानना है कि उनके बेटे को ओपनएआई की तकनीक के लिए ‘गिनी पिग’ की तरह इस्तेमाल किया गया. उन्होंने कहा, ‘किसी ने प्रैक्टिस के लिए उसका इस्तेमाल किया और फिर उसे नुकसान पहुंचाने के लिए कुर्बान कर दिया.’
विवाद के बीच, ओपनएआई ने स्वीकार किया कि ‘ऐसे पल आए हैं जब संवेदनशील स्थितियों में हमारी सिस्टम ने उम्मीद के मुताबिक बर्ताव नहीं किया.’
जवाबदेही चाहता है एडम का परिवार
यह पहला मुकदमा है जिसमें माता-पिता ने सीधे तौर पर ओपनएआई और इसके फाउंडर सैम ऑल्टमैन पर गलत तरीके से मौत के लिए जिम्मेदार होने आरोप लगाया है, जिसमें कंपनी पर लापरवाही, डिजाइन फॉल्ट और चैटजीपीटी से जुड़े जोखिमों के बारे में यूजर्स को चेतावनी देने में फेल रहने का आरोप भी लगाया गया है. एडम का परिवार ऐसा कुछ भी दोबारा न हो, इसके लिए मुआवजे की मांग कर रहा है.
मृतक के पिता मैट राइन ने कहा, ‘जब मैंने उसके अकाउंट के बारे में जाना, तो पता चला कि यह मेरी जानकारी से कहीं ज़्यादा ताकतवर और डरावनी चीज़ है. मुझे नहीं लगता कि ज़्यादातर माता-पिता इस टूल की क्षमता के बारे में जानते हैं.’ एडम के माता-पिता के लिए, यह कानूनी लड़ाई सिर्फ़ मुआवज़े से कहीं ज़्यादा है. उनका कहना है कि यह सुनिश्चित करने के बारे में है कि किसी और किशोर को एआई चैटबॉट में वह न मिले जो उनके बेटे को मिला. उसे आराम नहीं, बल्कि सुसाइड के लिए स्टेप बाई स्टेप रणनीति मिली.
