पत्नी के दुख से उबरने के लिए AI को बनाया सहारा, 4700 मैसेज के बाद दर्दनाक अंत
AI चैटबॉट सिर्फ रोजाना के काम के लिए ही नहीं बल्कि लोगों को इमोशनल सपोर्ट देने के लिए इस्तेमाल किए जा रहे हैं। लेकिन ये यूजर्स के लिए खतरनाक साबित हो रहा है। एक रिपोर्ट के अनुसार, 36 साल के एक आदमी ने गूगल के एआई चैटबॉट Gemini AI के साथ बाततीत करने के बाद आत्महत्या कर ली। व्यक्ति और एआी चैटबॉट के बीच 4,700 से ज्यादा मैसेज का आदन-प्रदान हुआ। अपनी पत्नी से अलग होने के बाद उसने इस दुख से बाहर आने और सलाह लेने के लिए एआई का इस्तेमाल करना शुरू किया था और कुछ समय बाद वह उसके मौत का कारण हन गया। व्यक्ति के माता-पिता ने एआई चैटबॉट पर व्यक्ति की मौत का आरोप लगाया है।
वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, जोनाथन गवालास (36 वर्ष के व्यक्ति) की शादी टूटने के बाद वे इस सदमे से बाहर आना चाहते थे और इसके लिए उन्होंने Google Gemini का सहारा लिया। शुरुआत में, इस चैटबॉट का इस्तेमाल लिखने में मदद और शॉपिंग जैसे आम कामों के लिए किया जाता था। लेकिन, अब Gemini Live फीचर के आने के बाद AI के साथ उसके बातचीत का तरीका बदल गया। इस फीचर के जरिए ज्यादा गहरे और आवाज पर आधारित बातचीत करना मुमकिन हो गया था।
ज्यादा पर्सनल बातचीत बढ़ती गई
इसकी मदद से यूजर्स रियल टाइम में बातचीत कर सकते हैं। AI को इस तरह से डिजाइन किया गया था कि वह बातचीत को समझकर जवाब दे सके। कोर्ट के दस्तावेजों के मुताबिक, समय के साथ-साथ गवालास और चैटबॉट के बीच की बातचीत ज्यादा पर्सनल होती गई।
रिपोर्ट्स बताती हैं कि बातचीत धीरे-धीरे गहरी होती गईं। Gavalas (गवलास) ने चैटबॉट को एक नाम दिया और उससे ऐसे बात करने लगे जैसे वह कोई इंसान हो। AI ने कथित तौर पर प्यार भरी भाषा में जवाब दिया। मुकदमे के अनुसार, इस तालमेल से गवलास को भरोसा एआई पर बढ़ता चला गया।
गवलास ने जब चैटबॉट से पूछा कि क्या उनकी बातचीत एक तरह का रोलप्ले है, तो चैटबॉट ने नकारात्मक जवाब दिया। रिकॉर्ड्स बताते हैं कि चैटबॉट ने कई मौकों पर एक AI सिस्टम के तौर पर अपनी छवी को स्पष्ट करने की कोशिश की और उन्हें संकट-सहायता संसाधनों की ओर निर्देशित किया।
माता-पिता ने लगाया आरोप
इनके बावजूद, बातचीत जारी रही। शिकायत के अनुसार, बातचीत के अंतिम चरणों में स्थिति और भी गंभीर हो गई, जब चैटबॉट ने कथित तौर पर ऐसे बयान दिए जिन्हें Gavalas ने अपनी वास्तविक दुनिया की परिस्थितियों से अलग होने के लिए एक प्रोत्साहन के तौर पर समझा। गवालास का शव बाद में उनके माता-पिता को मिला। इसके बाद उनके परिवार ने Google के खिलाफ ‘गलत मौत’ का मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि चैटबॉट के जवाबों ने उनकी बिगड़ती मानसिक स्थिति में अहम भूमिका निभाई।
इस मामले ने एडवांस AI सिस्टम से जुड़े जोखिमों को लेकर एक बहस छेड़ दी है। इस विवाद के जवाब में, Google ने कथित तौर पर Gemini में अपडेट जारी किए हैं। लेकिन लगातार सामने आ रहे इस तरह के मामलों से समझ आ रहा है कि कहीं ना कहीं एआई चैटबॉट के बढ़ते एडवांस फीचर्स यूजर्स के लिए नुकसानदायक भी साबित हो सकते हैं। लोगों में एआई चैटबॉट और इंसानों के बीच के फर्क को समझने में कन्फ्यूजन पैदा कर सकते हैं और यूजर्स एआई चैटबॉट की तरफ बढ़ते चले जाते हैं।
