Interprétabilité causale pour l'apprentissage automatique - Problèmes, méthodes et évaluation

Les modèles d'apprentissage automatique ont réalisé des succès notables dans une multitude d'applications. Cependant, la plupart de ces modèles sont des boîtes noires, et il est obscur comment les décisions sont prises par eux. Cela rend les modèles peu fiables et peu dignes de confiance. Pour fournir des insights sur les processus décisionnels de ces modèles, une variété de modèles traditionnels interprétables ont été proposés. De plus, pour générer des explications plus compréhensibles pour les humains, les travaux récents sur l'interprétabilité essaient de répondre à des questions liées à la causalité telles que "Pourquoi ce modèle prend-il de telles décisions ?" ou "Est-ce une caractéristique spécifique qui a causé la décision prise par le modèle ?". Dans ce travail, les modèles qui visent à répondre à des questions causales sont appelés modèles interprétables causaux. Les enquêtes existantes ont couvert des concepts et des méthodologies de l'interprétabilité traditionnelle. Dans ce travail, nous présentons une enquête complète sur les modèles interprétables causaux sous les aspects des problèmes et des méthodes. En outre, cette enquête fournit des insights approfondis sur les métriques d'évaluation existantes pour mesurer l'interprétabilité, ce qui peut aider les praticiens à comprendre pour quels scénarios chaque métrique d'évaluation est appropriée.