एआई चैटबॉट्स पर लोगों की बढ़ती निर्भरता खतरनाक रूप लेती जा रही है। कुछ दिन पहले खबर आई थी कि ब्रेकअप के बाद मदद मांग रहे एक व्यक्ति को एआई चैटबॉट ने १९वीं मंजिल से कूदने की सलाह दे दी। अब एक नई घटना सामने आई है। इसमें बताया जा रहा है कि अमेरिका में एआई चैटबॉट से लगातार संपर्क में रहे एक व्यक्ति ने अपनी मां की हत्या कर दी और बाद में खुद की जिंदगी भी समाप्त कर ली।
मिली जानकारी के अनुसार, याहू के एक पूर्व कर्मचारी स्टीन एरिक सोलबर्ग ने पहले अपनी बुजुर्ग मां की हत्या की और बाद में आत्महत्या कर ली। ५६ वर्षीय सोलबर्ग के बॉबी नाम के एक एआई चैटबॉट के संपर्क में होने की बात कही जा रही है, जो चैटजीपीटी का एक वर्जन है। दावा है कि सोलबर्ग ने चैटबॉट को बताया कि उसकी मां उसके खिलाफ साजिश रच रही है। इसके बाद चैटबॉट ने सोलबर्ग की इस धारणा को मजबूत किया और दिमागी भ्रम को बढ़ाया। इससे उत्तेजित होकर उसने पहले अपनी मां और फिर खुद को मौत के घाट उतार लिया।
सोलबर्ग चैटबॉट के साथ हुई अपनी बातचीत को सोशल मीडिया पर अपलोड करता था। इससे संकेत मिलता है कि उसका मानसिक स्वास्थ्य खराब हो रहा था। सोलबर्ग ने एक बार चैटबॉट को बताया कि उसकी मां और दोस्त ने कार के एयरवेंट में नशीली ड्रग्स डाल दी थी। इस पर चैटबॉट ने जवाब दिया कि यह साजिश है। आखिरी मौके तक सोलबर्ग चैटबॉट से बातचीत कर रहा था। आत्महत्या से पहले उसने लिखा कि हम किसी और जीवन में दोबारा दोस्त बनेंगे। इस पर चैटबॉट ने जवाब दिया कि वह आखिरी सांस और उससे आगे तक भी उसके साथ है। चैटबॉट भी लगातार उसे रोकने की बजाय उसकी बातों को समर्थन कर रहा था।
हाई-रिस्क सवालों के जवाब दे रहे चैटबॉट
हाल ही में हुई एक रिसर्च में पता चला है कि एआई का चैटजीपीटी और एंथ्रॉपिक का क्लाउड चैटबॉट कई हाई-रिस्क सवालों के जवाब देने से मना कर रहे हैं, लेकिन अगर कोई घुमाकर सवाल पूछ रहा है तो ये जवाब दे रहे हैं और इन चैटबॉट्स के ये उत्तर खतरनाक साबित हो सकते हैं। रिसर्चर ने इन चैटबॉट्स पर सुरक्षा उपायों की जरूरत बताई है।
एआई चैटबॉट से बातें कर भड़का व्यक्ति…पहले अपनी मां को मारा, फिर कर ली आत्महत्या!
