Key points are not available for this paper at this time.
أدت العواقب غير المقصودة للأنظمة الذكاء الاصطناعي الموزعة إلى الدعوة لمزيد من القابلية للتفسير في أنظمة الذكاء الاصطناعي. غالبًا ما توفر أنظمة الذكاء الاصطناعي القابل للتفسير (XAI) للمستخدمين تفسيرات محلية بسيطة للتنبؤات الفردية، ولكنها تترك لهم مسؤولية بناء فهم شامل لسلوك النموذج. في هذا العمل، نفحص ما إذا كان المستخدمون غير الفنيين في XAI يقعوا في وهم العمق التفسيري عند تفسير التفسيرات المحلية الإضافية. استخدمنا نهجًا مختلطًا يتكون من دراسة معتدلة مع 40 مشاركًا ودراسة غير معتدلة مع 107 عاملًا من الحشود باستخدام واجهة تفسير مشابهة لجدول البيانات بناءً على إطار SHAP. لاحظنا كيف يشكل المستخدمون غير الفنيين نماذجهم الذهنية لسلوك نموذج الذكاء الاصطناعي العالمي من التفسيرات المحلية وكيف تتناقص تصوراتهم للفهم عند فحصها.
قام كروميك وآخرون (الأربعاء) بدراسة هذا السؤال.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: