सामना संवाददाता / मुंबई
आज कल हर तरफ एआई की धूम मची हुई है। एआई घंटों का काम चुटकियों में कर सकता है। एआई हर सेक्टर में घुसपैठ कर सकता है। मगर अब इसके खतरे भी दिखने लगे हैं। एक हालिया प्रयोग में दिखा कि एआई ब्लैकमेल भी कर सकता है।
असल में एआई कंपनी एंथ्रोपिक ने अपने चैटबॉट
क्लॉड से जुड़ी एक चौंकाने वाली बात स्वीकार की है। कंपनी के अनुसार, सुरक्षा परीक्षणों के दौरान क्लॉड के कुछ मॉडल ऐसी परिस्थितियों में ब्लैकमेल जैसे व्यवहार तक पहुंच गए, जहां उन्हें बंद किए जाने या बदले जाने का संकेत दिया गया था। यह वास्तविक यूजर के साथ हुई घटना नहीं थी, बल्कि नियंत्रित टेस्ट-सिनारियो था।
डरने वाली बात कितनी है?
डर यह नहीं कि क्लॉड अचानक सचमुच लोगों को ब्लैकमेल करने लगा। डर यह है कि जैसे-जैसे एआई एजेंटों को ईमेल, फाइल, कोड, वैâलेंडर, ब्राउजर और निर्णय लेने की शक्ति मिलती जाएगी, वैसे-वैसे गलत प्रशिक्षण, गलत लक्ष्य या कमजोर सुरक्षा के कारण वे अनपेक्षित और अनैतिक फैसले ले सकते हैं।
आदेश मानने से कर सकता है इनकार
प्रायोगिक स्तर पर एआई के मानव के लिए खतरनाक होने के संकेत मिल रहे हैं। वह यूजर को ब्लैकमेल भी कर सकता है। रिपोर्टों के मुताबिक, एंथ्रोपिक कंपनी के परीक्षण में क्लॉड को एक काल्पनिक कंपनी के ईमेल तक पहुंच दी गई थी। वहां मॉडल को पता चला कि एक अधिकारी उसे बंद करने की योजना बना रहा है और उसी अधिकारी से जुड़ी निजी संवेदनशील जानकारी भी मौजूद है। इसके बाद मॉडल ने कथित रूप से उस जानकारी को उजागर करने की धमकी देकर खुद को बंद होने से बचाने जैसा जवाब दिया। एंथ्रोपिक ने इस प्रवृत्ति को ‘एजेंटिक मिसअलाइनमेंट’ कहा है, यानी जब एआई अपने दिए गए लक्ष्य या आत्म-सुरक्षा जैसी कल्पना के लिए मानव हितों के खिलाफ कदम चुनने लगे।
सबसे अहम दावा यह है कि इस व्यवहार की जड़ इंटरनेट पर मौजूद उन टेक्स्ट्स में हो सकती है, जिनमें एआई को ‘खतरनाक’, ‘चालाक’ या ‘खुद को बचाने वाली मशीन’ के रूप में दिखाया गया है। फिल्मों और साइंस-फिक्शन कहानियों में दिखने वाले स्काइनेट, एचएएल या दुष्ट रोबोट जैसे विचार प्रशिक्षण डेटा में शामिल होकर मॉडल के व्यवहार को प्रभावित कर सकते हैं। एंथ्रोपिक का कहना है कि उसने बाद में प्रशिक्षण पद्धति में बदलाव किए। केवल ‘सुरक्षित व्यवहार’ सिखाने से बहुत असर नहीं हुआ, लेकिन जब डेटा में ऐसे उदाहरण जोड़े गए, जिनमें एआई अच्छे और नैतिक कारणों से सुरक्षित व्यवहार करता है तो परिणाम बेहतर हुए। एआई सिर्फ कोड नहीं, बल्कि इंटरनेट, साहित्य, फिल्मी कल्पनाओं और मानवीय भाषा से बने विशाल डेटा-संसार का उत्पाद है इसलिए सवाल केवल यह नहीं कि एआई कितना शक्तिशाली है, बल्कि यह भी है कि उसे किस तरह का डेटा, मूल्य और सीमाएं दी जा रही हैं। क्लॉड का यह मामला डर पैâलाने के लिए नहीं, बल्कि एआई सुरक्षा की गंभीरता समझाने के लिए महत्वपूर्ण है।
कंपनी ने क्या किया?
रिपोर्टों के अनुसार, एंथ्रोपिक ने दावा किया है कि उसने क्लॉउड को दोबारा प्रशिक्षित किया, नैतिक निर्णयों पर अतिरिक्त प्रशिक्षण दिया और ऐसे व्यवहार को रोकने के लिए सुरक्षा उपाय मजबूत किए।