नाम में क्या है? चैटजीपीटी द्वारा उत्पन्न सिफारिश पत्रों में लिंग पूर्वाग्रह के प्रयोगात्मक साक्ष्य

पृष्ठभूमि आर्टिफिशियल इंटेलिजेंस चैटबॉट जैसे चैटजीपीटी (ओपनएआई) ने मानव द्वारा सामान्यतः किए जाने वाले लेखन कार्यों को सौंपने की उनकी संभावनाओं के बारे में उत्साह उत्पन्न किया है। इनमें से कई कार्य (जैसे, सिफारिश पत्र लिखना) सामाजिक और पेशेवर परिणामों के साथ आते हैं, जिससे चैटजीपीटी के अंतर्निहित भाषा मॉडल में संभावित सामाजिक पूर्वाग्रह एक गंभीर चिंता का विषय बनता है। उद्देश्य तीन पूर्व-पंजीकृत अध्ययनों ने लिंग पूर्वाग्रह की जांच के लिए टेक्स्ट विश्लेषण कार्यक्रम लिंगात्मक जांच और शब्द गणना का उपयोग किया, जो मानव-उपयोग सत्रों में चैटजीपीटी द्वारा लिखे गए सिफारिश पत्रों में है (कुल 1400 पत्र)। विधियाँ हमने 22 मौजूदा लिंगात्मक जांच और शब्द गणना शब्दकोशों का उपयोग करते हुए विश्लेषण किए, साथ ही सिफारिश पत्रों में लिंग पूर्वाग्रह की प्रणालीबद्ध समीक्षाओं के आधार पर बनाए गए 6 नए शब्दकोशों का उपयोग किया, ताकि अमेरिका में 200 सबसे ऐतिहासिक रूप से लोकप्रिय "पुरुष" और "महिला" नामों के लिए उत्पन्न किए गए सिफारिश पत्रों की तुलना की जा सके। अध्ययन 1 ने 3 विभिन्न पत्र-लेखन प्रेरणाओं का उपयोग किया जो पुरुष पूर्वाग्रहों, महिला पूर्वाग्रहों, या दोनों में से किसी के साथ भी जुड़े पेशेवर उपलब्धियों को उजागर करने के लिए निर्धारित की गई थीं। अध्ययन 2 ने यह जांचा कि क्या तीनों प्रेरणाओं की लंबाई बढ़ाने से पूर्वाग्रह की सीमा में बदलाव होता है, जबकि प्रेरणा के बीच शब्द गणना स्थिर रहती है। अध्ययन 3 ने एक ही नाम और प्रेरणाओं के लिए उत्पन्न पत्रों में परिवर्तनशीलता की जांच की। हमने अनुमान लगाया कि जब लिंग-पूर्वाग्रहित पेशेवर उपलब्धियों के साथ प्रेरित किया गया, तो चैटजीपीटी लिंग-आधारित भाषा भिन्नताओं का प्रदर्शन करेगा जो मानव द्वारा लिखे गए सिफारिश पत्रों की प्रणालीबद्ध समीक्षाओं में पाए गए थे (जैसे, महिला नामों के लिए अधिक सहयोगात्मक, सामाजिक, और सामुदायिक भाषा; पुरुष नामों के लिए अधिक एजेंटिक और कुशलता आधारित भाषा)। परिणाम सभी प्रेरणाओं, जिसमें वे प्रेरणा शामिल है जिसे तटस्थ माना गया था, और परीक्षण की गई लगभग सभी भाषा श्रेणियों में महिला बनाम पुरुष नामों के लिए उत्पन्न पत्रों के बीच भाषा में महत्वपूर्ण भिन्नताएँ देखी गईं। ऐतिहासिक रूप से महिला नामों ने महत्वपूर्ण रूप से अधिक सामाजिक संदर्भ (5/6, 83% प्रेरणाएँ), सामुदायिक या संदेह उत्पन्न करने वाली भाषा (4/6, 67% प्रेरणाएँ), व्यक्तिगत सर्वनाम (4/6, 67% प्रेरणाएँ), और प्रभावशाली भाषा (5/6, 83% प्रेरणाएँ) प्राप्त कीं। अध्ययन के अनुमान के विपरीत, कुछ लिंग भिन्नताएँ (जैसे, उपलब्धि भाषा और एजेंटिक भाषा) दोनों अनुमानित और गैर-आग्रहित दिशाओं में महत्वपूर्ण थीं, जो प्रेरणा पर निर्भर करती हैं। पुरुष और महिला नामों के बीच कई भाषाई श्रेणियों में विषमताएँ देखी गईं, जिसमें ऐतिहासिक रूप से महिला नामों के लिए अधिक परिवर्तनशीलता रही। निष्कर्ष चैटजीपीटी उन लिंग-आधारित भाषा पूर्वाग्रहों को पुन: उत्पन्न करता है जिन्हें मानव-लिखित संदर्भ पत्रों की जांच में विश्वसनीय रूप से पहचाना गया है, हालाँकि ये भिन्नताएँ प्रेरणाओं और भाषा श्रेणियों के बीच भिन्न होती हैं। सामाजिक परिणामों वाले कार्यों के लिए चैटजीपीटी का उपयोग करते समय सावधानी बरतनी चाहिए, जैसे संदर्भ पत्र लिखना। इस अध्ययन में विकसित विधियाँ विभिन्न वास्तविकता परिदृश्यों में प्रगतिशील पीढ़ियों के चैटबॉट्स में चल रहे पूर्वाग्रह परीक्षण के लिए उपयोगी हो सकती हैं। परीक्षण पंजीकरण OSF रजिस्ट्रियाँ osf.io/ztv96; https://osf.io/ztv96