ماسالا: تفسيرات بالوكالة غير مرتبطة بالنموذج من خلال التكيف المحلي

تختار طرق الذكاء الاصطناعي القابل للتفسير المحلي الحالية، مثل LIME، منطقة من فضاء الإدخال بالقرب من حالة إدخال معينة، حيث تقارب سلوك نموذج باستخدام نموذج وكيل أبسط وأكثر قابلية للتفسير. غالبًا ما يتم التحكم في حجم هذه المنطقة بواسطة معلمة محلية محددة من قبل المستخدم. في هذه الورقة، نوضح الصعوبات المرتبطة بتعريف حجم محلي مناسب لالتقاط سلوك النموذج المؤثر، بالإضافة إلى عدم كفاية استخدام حجم محلي واحد لتفسير جميع التوقعات. نقترح طريقة جديدة، ماسالا، لتوليد التفسيرات، والتي تحدد تلقائيًا المنطقة المحلية المناسبة لسلوك النموذج المؤثر لكل حالة فردية يتم تفسيرها. تقرب ماسالا السلوك المحلي الذي يستخدمه نموذج معقد للتنبؤ من خلال ملاءمة نموذج وكيل خطي لمجموعة من النقاط التي تشهد سلوك نموذج مشابه. يتم العثور على هذه النقاط عن طريق تجميع فضاء الإدخال إلى مناطق من الاتجاهات السلوكية الخطية المعروضة من قبل النموذج. نقارن بين دقة وثبات التفسيرات التي تنتجها طريقتنا مع طرق الذكاء الاصطناعي القابل للتفسير المحلي الحالية، وهي LIME وCHILLI. تظهر التجارب على مجموعتي بيانات PHM08 وMIDAS أن طريقتنا تنتج تفسيرات أكثر أمانًا وثباتًا من الطرق الحالية، دون الحاجة لتعريف أي معلمات محلية حساسة.