व्याख्या के रूप में इंटरैक्शन: छवि वर्गीकरण मॉडल को स्पष्ट करने के लिए एक उपयोगकर्ता इंटरैक्शन-आधारित विधि

कंप्यूटर दृष्टि में, स्पष्ट AI (xAI) विधियाँ गहरे शिक्षण मॉडलों के निर्णय लेने की प्रक्रिया को अधिक व्याख्यात्मक और पारदर्शी बनाकर 'ब्लैक-बॉक्स' समस्या को कम करने का प्रयास करती हैं। पारंपरिक xAI विधियाँ उन इनपुट विशेषताओं को दर्शाने पर ध्यान केंद्रित करती हैं जो मॉडल की भविष्यवाणियों को प्रभावित करती हैं, जिससे विशेषज्ञों के लिए मुख्यतः उपयुक्त अंतर्दृष्टियाँ मिलती हैं। इस कार्य में, हम एक इंटरैक्शन-आधारित xAI विधि प्रस्तुत करते हैं जो उपयोगकर्ताओं की छवि वर्गीकरण मॉडलों की समझ को उनके इंटरैक्शन के माध्यम से बढ़ाती है। इस प्रकार, हमने एक वेब-आधारित प्रोटोटाइप विकसित किया है जो उपयोगकर्ताओं को चित्रों को पेंट करने और मिटाने के माध्यम से संशोधित करने की अनुमति देता है, जिससे वर्गीकरण परिणामों में बदलाव को अवलोकन किया जा सके। हमारी विधि उपयोगकर्ताओं को उन महत्वपूर्ण विशेषताओं को पहचानने में सक्षम बनाती है जो मॉडल के निर्णय लेने की प्रक्रिया को प्रभावित करती हैं, उनके मानसिक मॉडलों को मॉडल की तर्कशक्ति के साथ संरेखित करती है। पांच छवियों के साथ किए गए प्रयोग इस विधि की क्षमता को दर्शाते हैं कि यह उपयोगकर्ता इंटरैक्शन के माध्यम से विशेषता महत्व प्रकट कर सकती है। हमारा कार्य xAI में एक नई दृष्टिकोण प्रदान करता है जो अंतिम उपयोगकर्ता की भागीदारी और समझ पर केंद्रित है, AI प्रणालियों में अधिक सहज और सुलभ व्याख्या के लिए रास्ता प्रशस्त करता है।