डीप न्यूरल नेटवर्क में व्याख्या विधियों के लिए एक मानक

हम डीप न्यूरल नेटवर्क में विशेषता महत्व आकलनों की लगभग सटीकता के लिए एक अनुभवजन्य माप प्रस्तुत करते हैं। हमारे परिणाम कई बड़े पैमाने पर छवि वर्गीकरण डेटासेट पर दिखाते हैं कि कई लोकप्रिय व्याख्या विधियाँ विशेषता महत्व के आकलनों को उत्पन्न करती हैं जो विशेषता महत्व के यादृच्छिक निर्धारण से बेहतर नहीं हैं। केवल कुछ समग्र आधारित दृष्टिकोण---VarGrad और SmoothGrad-Squared---ऐसे यादृच्छिक महत्व असाइनमेंट से बेहतर प्रदर्शन करते हैं। एन्सेम्बल बनाने का तरीका बहुत महत्वपूर्ण है, हम दिखाते हैं कि कुछ दृष्टिकोण आधारभूत विधि से बेहतर प्रदर्शन नहीं करते लेकिन एक बहुत बड़ा कंप्यूटेशनल बोझ उठाते हैं।