संयुक्त राष्ट्र की रिपोर्ट में चौंकाने वाला खुलासा
कृत्रिम बुद्धिमत्ता को भविष्य की निष्पक्ष और तर्कसंगत तकनीक माना जाता है, लेकिन संयुक्त राष्ट्र की एक नई रिपोर्ट ने गंभीर चिंता पैदा कर दी है। रिपोर्ट के अनुसार, एआई सिस्टम इंसानों द्वारा इंटरनेट पर छोड़े गए लैंगिक, नस्लीय और सामाजिक पूर्वाग्रहों को सीख रहे हैं और उन्हें अपने जवाबों में दोहरा भी रहे हैं।
अध्ययन में १३३ एआई प्रणालियों का विश्लेषण किया गया। इनमें लगभग ४४ प्रतिशत सिस्टम में लैंगिक पक्षपात पाया गया, जबकि एक चौथाई से अधिक प्रणालियों में लैंगिक और नस्लीय-दोनों तरह का भेदभाव सामने आया। कई बड़े भाषा मॉडल महिलाओं को घर, परिवार और बच्चों की देखभाल से जोड़ते हैं, जबकि पुरुषों को नेतृत्व, व्यवसाय और करियर की सफलता से संबंधित बताते हैं।
रिपोर्ट में कहा गया है कि कुछ एआई प्रणालियों ने महिलाओं को यौन वस्तु, पुरुषों के अधीन या संपत्ति के रूप में प्रस्तुत करने वाले जवाब भी दिए। वाक्य पूरा करने के परीक्षणों में लगभग हर पांच में से एक उत्तर लैंगिक रूप से अपमानजनक या स्त्री-विरोधी पाया गया।
संयुक्त राष्ट्र महिला संगठन के अनुसार, समस्या तकनीक में अचानक पैदा नहीं हुई है। एआई इंटरनेट पर उपलब्ध दशकों पुराने लेखन, सामाजिक मान्यताओं और भेदभावपूर्ण सामग्री से प्रशिक्षण लेता है। इसलिए वह समाज में मौजूद पूर्वाग्रहों की नकल करता है।
रिपोर्ट ने यह भी चेताया कि एआई की मदद से डीपफेक, छेड़छाड़ की गई तस्वीरें और ऑनलाइन उत्पीड़न तेजी से पैâल सकते हैं। संयुक्त राष्ट्र ने मांग की है कि एआई के निर्माण, प्रशिक्षण और इस्तेमाल के हर स्तर पर लैंगिक समानता, मानवाधिकार और जवाबदेही को अनिवार्य बनाया जाए।