SHAP स्कोर से फीचर महत्व स्कोर तक

eXplainable Artificial Intelligence (XAI) का एक केंद्रीय लक्ष्य किसी पूर्वानुमान को देखते हुए मशीन लर्निंग (ML) मॉडल की विशेषताओं को सापेक्ष महत्व असाइन करना है। फीचर एट्रिब्यूशन द्वारा स्पष्टता का यह कार्य कितना महत्वपूर्ण है, यह SHAP और LIME जैसे उपकरणों के हाल के सामान्य उपयोग से स्पष्ट होता है। दुर्भाग्यवश, SHAP और LIME के पीछे गेम-थियोरेटिकल नींव का उपयोग करके फीचर एट्रिब्यूशन्स की सटीक गणना अनायास असंतोषजनक परिणाम दे सकती है, जो भ्रामक सापेक्ष फीचर महत्व की रिपोर्टिंग के बराबर है। हाल के कार्य ने विशेषता एट्रिब्यूशन को कठोर बनाने के लिए तर्कात्मक परिभाषाओं के आधार पर फीचर चयन द्वारा व्याख्याओं के आक्युमेटिक एग्रीगेशन्स का अध्ययन किया। यह पत्र यह दिखाता है कि फीचर एट्रिब्यूशन और प्रायोगिक मतदान शक्ति के बीच एक आवश्यक संबंध है, और कि हाल में प्रस्तावित आक्युमेटिक एग्रीगेशन्स उन शक्ति संकेतकों के क्षेत्र के कुछ उदाहरणों का प्रतिनिधित्व करते हैं जो अतीत में अध्ययन किए गए हैं। इसके अलावा, यह स्पष्ट नहीं है कि कुछ सबसे अधिक लोकप्रिय शक्ति संकेतकों का उपयोग फीचर महत्व स्कोर (FISs) के रूप में कैसे किया जा सकता है, यानी XAI में शक्ति संकेतकों का उपयोग, और इनमें से कौन सा संकेतक फीचर एट्रिब्यूशन द्वारा XAI के उद्देश्यों के लिए सबसे उपयुक्त है, अर्थात्, असंतोषजनक परिणाम उत्पन्न नहीं करना। यह पत्र नवीनतम वांछनीय गुणों का प्रस्ताव करता है जो FISs को प्रदर्शित करना चाहिए। इसके अतिरिक्त, पत्र प्रस्तावित गुणों को प्रदर्शित करने वाले नए FISs का भी प्रस्ताव करता है। अंततः, पत्र प्रस्तावित गुणों के संदर्भ में सबसे ज्ञात शक्ति संकेतकों का कठोर विश्लेषण करता है।