अपरिखित संरक्षित वर्ग के साथ एल्गोरिदमिक न्याय को डेटा संयोजन का उपयोग करके मूल्यांकन करना

एल्गोरिदमिक निर्णयों का लोगों के जीवन पर बढ़ता हुआ प्रभाव हमें उनके न्याय का निरीक्षण करने के लिए मजबूर करता है और विशेष रूप से, उन भिन्न प्रभावों की जांच करने के लिए जो स्पष्ट रूप से रंग-अंधे एल्गोरिदम विभिन्न समूहों पर डाल सकते हैं। उदाहरणों में क्रेडिट निर्णय, भर्ती, विज्ञापन, आपराधिक न्याय, व्यक्तिगत चिकित्सा, और लक्षित नीति निर्माण शामिल हैं, जहाँ कुछ मामलों में न्याय के लिए वैधानिक या नियामक ढांचे मौजूद हैं और विशेष संरक्षित वर्गों को परिभाषित करते हैं। इस पत्र में हम व्यावहारिकता में भिन्न प्रभावों का मूल्यांकन करने के लिए एक मौलिक चुनौती का अध्ययन करते हैं: संरक्षित वर्ग की सदस्यता अक्सर डेटा में अवलोकित नहीं होती है। यह विशेष रूप से उधारी और स्वास्थ्य देखभाल में समस्या है। हम एक सहायक डेटा सेट का उपयोग करने पर विचार करते हैं, जैसे अमेरिका की जनगणना, ताकि ऐसे मॉडल बनाए जा सकें जो उप नाम और भूस्थान जैसी प्रॉक्सी चर से संरक्षित वर्ग की भविष्यवाणी करते हैं। हम दिखाते हैं कि यहां तक कि ऐसे डेटा के साथ, कई सामान्य भिन्नता माप आमतौर पर पहचान योग्य नहीं होते हैं, जो लोकप्रिय प्रॉक्सी आधारित तरीकों के प्रलेखित पूर्वाग्रहों पर एक नया दृष्टिकोण प्रदान करता है। हम सभी संभावित सच्ची भिन्नताओं के सबसे तंग सेट का सटीक वर्णन देते हैं जो डेटा (और संभवतः अतिरिक्त अनुमानों) के साथ संगत हैं। इसके अलावा, हम इन सेटों की गणना और दृश्यकरण के लिए अनुकूलन-आधारित एल्गोरिदम और नमूना अनिश्चितता का मूल्यांकन करने के लिए सांख्यिकीय उपकरण प्रदान करते हैं। मिलकर, ये भिन्नताओं के विश्वसनीय और मजबूत मूल्यांकन को सक्षम बनाते हैं—एक महत्वपूर्ण उपकरण जब भिन्नता का मूल्यांकन दूरगामी नीति निहितार्थ रख सकता है। हम इसे दो केस स्टडी में वास्तविक डेटा के साथ प्रदर्शित करते हैं: मोर्टगेज उधारी और व्यक्तिगत चिकित्सा डोजिंग। इस पत्र को हामिद नज़रज़ादेह ने स्वीकार किया था, प्रबंधकीय विज्ञान विशेष खंड डेटा-आधारित संस्तुति विश्लेषण पर।