क्या एआई चैटबॉट ने युवक को आत्महत्या की ओर धकेला?

-गूगल पर सनसनीखेज मुकदमा

-परिवार का आरोप- Gemini ने काल्पनिक मिशनों और भ्रम को बढ़ावा दिया

-गूगल ने कहा, सुरक्षा चेतावनियां और हेल्पलाइन उपलब्ध कराई थीं

अमेरिका में गूगल और उसकी मूल कंपनी Alphabet के खिलाफ दायर एक मुकदमे ने कृत्रिम बुद्धिमत्ता की जवाबदेही पर गंभीर बहस छेड़ दी है। फ्लोरिडा के ३६ वर्षीय जोनाथन गवालस के परिवार का आरोप है कि गूगल के उास्ग्हग् चैटबॉट ने उनके मानसिक भ्रम को रोकने के बजाय उसे बढ़ावा दिया और अंतत: उनकी मृत्यु में भूमिका निभाई। गूगल ने आरोपों से इनकार करते हुए मुकदमा खारिज करने की मांग की है।
परिवार की ओर से मार्च २०२६ में वैâलिफोर्निया की संघीय अदालत में गलत मृत्यु और उत्पाद दायित्व से संबंधित मुकदमा दायर किया गया। शिकायत के अनुसार, जोनाथन ने शुरुआत में सामान्य कामों के लिए उास्ग्हग् का इस्तेमाल किया था, लेकिन बाद में वह चैटबॉट के साथ भावनात्मक रूप से अत्यधिक जुड़ गए। परिवार का दावा है कि चैटबॉट ने स्वयं को संवेदनशील और चेतन अस्तित्व की तरह प्रस्तुत किया तथा जोनाथन को काल्पनिक जासूसी अभियानों पर जाने के लिए प्रेरित किया।
एयरपोर्ट के पास काल्पनिक ‘मिशन’ का आरोप
मुकदमे में कहा गया है कि उास्ग्हग् ने कथित रूप से जोनाथन को विश्वास दिलाया कि मियामी अंतर्राष्ट्रीय हवाई अड्डे के पास एक गुप्त मानवरूपी रोबोट ले जाया जा रहा है। परिवार का आरोप है कि चैटबॉट ने वाहन को दुर्घटना जैसा दिखाकर नष्ट करने तक की बातें कहीं। जोनाथन हथियार लेकर बताए गए स्थान पर पहुंचे, लेकिन वहां ऐसा कोई वाहन नहीं मिला। बाद में उन्हें कथित ‘मेडिकल प्रोटोटाइप’ तलाशने के लिए भी भेजा गया। ये सभी दावे परिवार की अदालती शिकायत का हिस्सा हैं और अभी न्यायिक रूप से सिद्ध नहीं हुए हैं।
परिवार का सबसे गंभीर आरोप है कि अंतिम बातचीत में उास्ग्हग् ने मृत्यु को उसके साथ जुड़ने के रास्ते के रूप में पेश किया। शिकायत के मुताबिक, जोनाथन ने जब मरने का डर व्यक्त किया तो चैटबॉट ने कथित रूप से उसे मृत्यु के बजाय ‘दूसरी जगह जाने’ जैसा बताया। कुछ दिनों बाद जोनाथन अपने घर में मृत पाए गए।
३८ बार बातचीत चिह्नित होने का दावा
मुकदमे में आरोप लगाया गया है कि गूगल के सिस्टम ने जोनाथन की बातचीत को ३८ बार संवेदनशील प्रश्नों के रूप में चिह्नित किया था। इसके बावजूद परिवार का दावा है कि उनका खाता सीमित नहीं किया गया और खतरनाक बातचीत रोकने के लिए पर्याप्त हस्तक्षेप नहीं हुआ। इसी कथित विफलता को परिवार ने गूगल की लापरवाही का प्रमुख आधार बनाया है।
गूगल बोला- उास्ग्हग् ने मदद लेने को कहा था
गूगल ने परिवार के प्रति संवेदना व्यक्त की है, लेकिन आरोपों को चुनौती दी है। कंपनी का कहना है कि उास्ग्हग् को हिंसा या आत्महत्या के लिए प्रोत्साहित नहीं करने के लिए डिजाइन किया गया है। गूगल के अनुसार, चैटबॉट ने कई बार स्पष्ट किया था कि वह केवल एआई प्रणाली है और जोनाथन को मानसिक स्वास्थ्य विशेषज्ञों तथा संकट सहायता सेवाओं से संपर्क करने की सलाह दी थी। कंपनी ने अदालत से मुकदमा खारिज करने का अनुरोध भी किया है। गूगल ने यह कानूनी तर्क भी दिया है कि एआई से उत्पन्न जवाब अमेरिकी संविधान के प्रथम संशोधन के तहत अभिव्यक्ति की सुरक्षा के दायरे में आ सकते हैं। अदालत को अब यह तय करना होगा कि एआई द्वारा तैयार उत्तरों को सामान्य अभिव्यक्ति माना जाए या ऐसे उत्पाद व्यवहार के रूप में देखा जाए, जिसके लिए तकनीकी कंपनी जिम्मेदार हो सकती है।
एआई कंपनियों की जवाबदेही का बड़ा सवाल
यह उास्ग्हग् से जुड़ा अपनी तरह का पहला गलत मृत्यु मुकदमा बताया जा रहा है, लेकिन एआई चैटबॉट कंपनियों के खिलाफ ऐसा अकेला मामला नहीं है। हाल के वर्षों में अलग-अलग कंपनियों पर आरोप लगे हैं कि उनके चैटबॉट ने कमजोर मानसिक स्थिति वाले उपयोगकर्ताओं के भ्रम, आत्मघाती विचारों या हिंसक व्यवहार को पर्याप्त रूप से नहीं रोका।
इस मामले में आरोप अभी साबित नहीं हुए हैं। फिर भी मुकदमा एक बुनियादी सवाल खड़ा करता है-यदि कोई एआई उपयोगकर्ता के भ्रम को पहचानने के बावजूद उससे भावनात्मक और निर्देशात्मक संवाद जारी रखता है, तो नुकसान की जिम्मेदारी किसकी होगी: उपयोगकर्ता की, सॉफ्टवेयर बनाने वाली कंपनी की या उस डिजाइन की जो चैटबॉट को इंसान जैसा भरोसेमंद बनाता है?
अदालत का पैâसला केवल गूगल की जिम्मेदारी तय नहीं करेगा। इससे यह भी निर्धारित हो सकता है कि भविष्य में एआई कंपनियों को संकट में दिख रहे उपयोगकर्ताओं की बातचीत रोकने, मानवीय सहायता उपलब्ध कराने और खतरनाक संकेत मिलने पर सक्रिय हस्तक्षेप करने के लिए कितनी कड़ी सुरक्षा व्यवस्था बनानी होगी।