संदर्भित शब्द एम्बेडिंग में लिंग पूर्वाग्रह

इस पत्र में, हम ELMo के संदर्भित शब्द वेक्टर में प्रदर्शित लिंग पूर्वाग्रह को मापते, विश्लेषण करते और कम करते हैं। सबसे पहले, हम कई अंतर्निहित विश्लेषण करते हैं और पता लगाते हैं कि (1) ELMo के लिए प्रशिक्षण डेटा में पुरुषों की तुलना में महिलाओं की संख्यात्मक रूप से अधिक होती है, (2) प्रशिक्षित ELMo एम्बेडिंग व्यवस्थित रूप से लिंग की जानकारी को संकेतनित करते हैं और (3) ELMo पुरुष और महिला संस्थाओं के बारे में लिंग की जानकारी को असमान रूप से संकेतनित करता है। फिर, हम यह दिखाते हैं कि एक शीर्ष स्तरीय सहसंदर्भ प्रणाली जो ELMo पर निर्भर करती है, अपने पूर्वाग्रह को विरासत में लेती है और WinoBias जांच कॉर्पस पर महत्वपूर्ण पूर्वाग्रह प्रदर्शित करती है। अंत में, हम ऐसे लिंग पूर्वाग्रह को कम करने के लिए दो विधियों का अन्वेषण करते हैं और दिखाते हैं कि WinoBias पर प्रदर्शित पूर्वाग्रह को समाप्त किया जा सकता है।