व्याख्यायित एआई के लिए मापदंड: चुनौतियाँ और संभावनाएँ

इस पेपर में उठाए गए प्रश्न हैं: यदि हम एक उपयोगकर्ता को एक ऐसे एआई प्रणाली का प्रदर्शन करते हैं जो समझाता है कि यह कैसे काम करता है, तो हम यह कैसे जान सकते हैं कि व्याख्या काम कर रही है और उपयोगकर्ता ने एआई का व्यावहारिक समझ प्राप्त किया है? दूसरे शब्दों में, हम कैसे जानते हैं कि एक व्याख्यायित एआई प्रणाली (XAI) कितनी अच्छी है? हमारा ध्यान माप के मुख्य विचारों पर है। हम मूल्यांकन के लिए विशिष्ट विधियों पर चर्चा करते हैं: (1) व्याख्याओं की गुणवत्ता, (2) क्या उपयोगकर्ता व्याख्याओं से संतुष्ट हैं, (3) उपयोगकर्ता एआई प्रणालियों को कितनी अच्छी तरह समझते हैं, (4) जिज्ञासा व्याख्याओं की खोज के लिए कैसे प्रेरित करती है, (5) क्या उपयोगकर्ता का एआई पर विश्वास और निर्भरता उचित है, और अंततः, (6) मानव-XAI कार्य प्रणाली कैसे प्रदर्शन करती है। हम जो सिफारिशें प्रस्तुत करते हैं वो हमारे विस्तृत शोध साहित्य और हमारे अपने मनोमिति मूल्यांकों के एकीकरण से derive होती हैं।