बैकडोर-आधारित व्याख्यात्मक एआई बेंचमार्क उच्च निष्ठा के लिए एट्रिब्यूशन विधियों का मूल्यांकन

एट्रिब्यूशन विधियाँ गहरे मॉडलों के आउटपुट भविष्यवाणियों को समझाने के लिए इनपुट विशेषताओं के लिए महत्व स्कोर का अनुमान लगाती हैं। हालाँकि, मॉडल भविष्यवाणियों के एट्रिब्यूट करने के लिए बेंचमार्क निष्ठा की कमी की वजह से एट्रिब्यूशन विधियों का सटीक मूल्यांकन चुनौती में है। इसके अलावा, एट्रिब्यूशन अनुमानों में अन्य विकारकारी कारक, जिनमें पोस्ट-प्रोसेसिंग तकनीकों और समझाए गए मॉडल भविष्यवाणियों के सेटअप विकल्प शामिल हैं, मूल्यांकन की विश्वसनीयता को और भी कमजोर कर देते हैं। इस कार्य में, हम पहले एक निष्ठा मानदंडों का सेट पहचानते हैं जिसे एट्रिब्यूशन विधियों के लिए विश्वसनीय बेंचमार्क पूरा करना अपेक्षित होता है, जिससे एट्रिब्यूशन बेंचमार्क का प्रणालीगत मूल्यांकन संभव हो सके। फिर, हम एक बैकडोर-आधारित व्याख्यात्मक एआई बेंचमार्क (BackX) पेश करते हैं जो वांछित निष्ठा मानदंडों का पालन करता है। हम सिद्धांतात्मक रूप से व्यापक एट्रिब्यूशन मूल्यांकन के लिए मौजूदा बेंचमार्क पर अपने दृष्टिकोण की श्रेष्ठता स्थापित करते हैं। व्यापक विश्लेषण के साथ, हम विभिन्न आधारभूत विधियों के बीच एट्रिब्यूशन विधियों के समग्र और निष्पक्ष बेंचमार्किंग के लिए एक सेटअप भी पहचानते हैं। इस सेटअप का उपयोग अंततः हमारे BackX बेंचमार्क का उपयोग करके मौजूदा विधियों की व्यापक तुलना के लिए किया जाता है। अंततः, हमारा विश्लेषण एट्रिब्यूशन विधियों की मदद से बैकडोर हमलों के खिलाफ बचाव के लिए मार्गदर्शन भी प्रदान करता है।