निष्पक्षता स्थिर नहीं है

जैसे-जैसे मशीन लर्निंग उच्च प्रभाव वाले निर्णय पारिस्थितिकी तंत्र में अधिक से अधिक शामिल होता जा रहा है, तैनात किए गए एमएल-आधारित निर्णय प्रणालियों के दीर्घकालिक व्यवहार और उनके संभावित परिणामों को समझने की आवश्यकता बढ़ती जा रही है। इन प्रणालियों की निष्पक्षता को समझने या सुधारने के लिए अधिकांश दृष्टिकोण स्थिर सेटिंग पर केंद्रित रहे हैं, दीर्घकालिक गतिशीलता पर विचार किए बिना। यह समझ में आता है; दीर्घकालिक गतिशीलता का मूल्यांकन करना कठिन है, विशेष रूप से क्योंकि वे परंपरागत पर्यवेक्षित एमएल अनुसंधान ढांचे के साथ मेल नहीं खाते हैं जो निश्चित डेटा सेट का उपयोग करते हैं। इस क्षेत्र में इस संरचनात्मक कठिनाई को दूर करने के लिए, हम एल्गोरिदम की निष्पक्षता का अध्ययन करने में एक प्रमुख उपकरण के रूप में सिमुलेशन का उपयोग करने का समर्थन करते हैं। हम बैंक ऋण, कॉलेज प्रवेश, और ध्यान के आवंटन के लिए निष्पक्ष निर्णय लेने के संदर्भ में पहले अध्ययन किए गए तीन गतिशील प्रणालियों के खिलौने के उदाहरणों का पता लगाते हैं। सिमुलेशन में सीखने वाले एजेंट कैसे इन प्रणालियों के साथ इंटरएक्ट करते हैं इसका विश्लेषण करके, हम पहले के कार्य का विस्तार कर सकते हैं, यह दिखाते हुए कि स्थिर या एकल-चरण विश्लेषण एक एमएल-आधारित निर्णय प्रणाली के दीर्घकालिक परिणामों का पूरा चित्र नहीं प्रदान करते हैं। हम निष्पक्षता-केंद्रित सिमुलेशन अध्ययनों और आगे की पुनरुत्पादनीय अनुसंधान के लिए एक विस्तारणीय ओपन-सोर्स सॉफ़्टवेयर ढाँचा प्रदान करते हैं, जो https://github.com/google/ml-fairness-gym पर उपलब्ध है।