नल अनुपालन: NYC स्थानीय कानून 144 और एल्गोरिदम उत्तरदायित्व की चुनौतियां

जुलाई 2023 में, न्यू यॉर्क सिटी दुनिया का पहला क्षेत्राधिकार बन गया जिसने व्यावसायिक एल्गोरिदमिक प्रणालियों, विशेष रूप से स्वचालित रोजगार निर्णय प्रणालियों (AEDTs) के लिए पूर्वाग्रह ऑडिट अनिवार्य किया। स्थानीय कानून 144 (LL 144) की आवश्यकता है कि AEDTs को जाति और लिंग पूर्वाग्रह के लिए प्रति वर्ष स्वतंत्र रूप से ऑडिट किया जाए, और ऑडिट रिपोर्ट को सार्वजनिक रूप से पोस्ट करना आवश्यक है। इसके अतिरिक्त, नियोक्ताओं को नौकरी की सूची के साथ एक पारदर्शिता नोटिस पोस्ट करने के लिए बाध्य किया जाता है। इस अध्ययन में, 155 छात्र अन्वेषकों ने LL 144 के प्रति 391 नियोक्ताओं की अनुपालन दर और संभावित नौकरी के आवेदकों के लिए उपयोगकर्ता अनुभव को रिकॉर्ड किया। इन नियोक्ताओं में से, 18 ने ऑडिट रिपोर्ट पोस्ट की और 13 ने पारदर्शिता नोटिस पोस्ट किया। इन दरों को LL 144 द्वारा लागू किए गए उत्तरदायित्व तंत्र में एक महत्वपूर्ण सीमा के द्वारा समझाया जा सकता है। चूंकि कानून नियोक्ताओं को यह तय करने के लिए पर्याप्त विवेक देता है कि उनका सिस्टम कानून के दायरे में है या नहीं, इसलिए शून्य परिणाम को गैर-अनुपालन को इंगित करने के लिए नहीं कहा जा सकता, जिसे हम 'नल अनुपालन' कहते हैं। नियोक्ता की विवेकता यह भी बताती है कि लगभग सभी ऑडिट ने 0.8 से अधिक का प्रभाव कारक रिपोर्ट किया, जो आरंभिक भेदभाव मामलों में अक्सर उपयोग किया जाने वाला एक सामान्य नियम है। हम यह भी पाते हैं कि LL 144 का सामान्य नौकरी खोजने वालों के लिए लाभ पहुंचनीयता और उपयोगिता में कमी के कारण सीमित है। हमारी खोजें नीति निर्माताओं के लिए महत्वपूर्ण सबक प्रदान करती हैं जब वे एल्गोरिदमिक प्रणालियों को विनियमित करने पर विचार करते हैं, विशेष रूप से निर्धारित पक्षों को प्रदान की जाने वाली विवेकता की डिग्री और पारदर्शिता और अंतिम-उपयोगकर्ता उत्तरदायित्व पर निर्भर रहने की सीमाएं।