Introduction des Explications Contre-Factuelles Basées sur le Retour Utilisateur (UFCE)

Les modèles d'apprentissage machine sont largement utilisés dans des applications réelles. Cependant, leur complexité rend souvent difficile l'interprétation des raisons de leurs décisions. Les explications contre-factuelles (CE) ont émergé comme une solution viable pour générer des explications compréhensibles dans l'Intelligence Artificielle Explicable (XAI). La CE fournit des informations exploitables aux utilisateurs sur la manière d'atteindre le résultat souhaité avec des modifications minimales de l'entrée. Cependant, les algorithmes de CE actuels fonctionnent généralement dans l'ensemble de l'espace des caractéristiques lors de l'optimisation des changements pour renverser un résultat indésirable, négligeant l'identification des contributeurs clés au résultat et ignorant la praticité des changements suggérés. Dans cette étude, nous introduisons une nouvelle méthodologie, appelée explication contre-factuelle basée sur le retour utilisateur (UFCE), qui aborde ces limitations et vise à renforcer la confiance dans les explications fournies. UFCE permet l'inclusion de contraintes utilisateur pour déterminer les plus petites modifications dans le sous-ensemble des caractéristiques exploitables tout en tenant compte de la dépendance des caractéristiques, et évalue la praticité des changements suggérés en utilisant des métriques d'évaluation de référence. Nous avons mené trois expériences avec cinq ensembles de données, démontrant que l'UFCE surpasse deux méthodes de CE bien connues en termes de proximité, de parcimonie et de faisabilité. Les résultats rapportés indiquent que les contraintes des utilisateurs influencent la génération de CE réalisables.