यह पत्र объясनीय एआई में इस्तेमाल की जाने वाली फ़ीचर एट्रिब्यूशन तकनीकों की एक अत्याधुनिक समीक्षा प्रस्तुत करता है। हम मौजूदा साहित्य को मॉडल-अज्ञेय और मॉडल-विशिष्ट दृष्टिकोणों की प्रस्तावित वर्गीकरण में व्यवस्थित करते हैं। हम इन विधियों की औपचारिक परिभाषाएँ, गणितीय रूपांकनों, उपयोग संदर्भों, ताकतों और सीमाओं का विश्लेषण करते हैं। एक तुलनात्मक विश्लेषण मॉडल अज्ञानता, व्याख्या के रूप, गणनात्मक लागत, और मॉडल के प्रति निष्ठा के संबंध में प्रमुख व्यापार-बंद को उजागर करता है। हम पाते हैं कि जबकि मॉडल-agnostic तकनीकें मोडलों को ऑरलकल के रूप में मानते हुए व्यापक अनुप्रयोग देती हैं, अक्सर उच्च गणनात्मक लागत पर, मॉडल-विशिष्ट विधियाँ आंतरिक मॉडल संरचना या ग्रेडिएंट का उपयोग करके संभवतः अधिक कुशल और विश्वसनीय व्याख्याएँ प्रदान करती हैं, हालांकि सीमित सामान्यता के साथ।
सैदजन कमोलोव (मंगल,) ने इस प्रश्न का अध्ययन किया।