Étudier la dualité de l'interprétabilité et de l'explicabilité dans l'apprentissage automatique

L'évolution rapide de l'apprentissage automatique (AA) a conduit à l'adoption généralisée de modèles complexes « boîte noire », tels que les réseaux de neurones profonds et les méthodes d'ensemble. Ces modèles présentent une performance prédictive exceptionnelle, ce qui les rend inestimables pour la prise de décision critique dans divers domaines de la société. Cependant, leur nature intrinsèquement opaque soulève des préoccupations concernant la transparence et l'interprétabilité, les rendant peu dignes de confiance en tant que systèmes d'aide à la décision. Pour atténuer cet obstacle à l'adoption à enjeux élevés, l'attention de la communauté de recherche s'est concentrée sur le développement de méthodes pour expliquer les modèles boîte noire afin de relever les défis qu'ils posent. Les efforts sont axés sur l'explication de ces modèles plutôt que sur le développement de modèles qui sont intrinsèquement interprétables. Concevoir des modèles intrinsèquement interprétables dès le départ, cependant, peut ouvrir la voie à des applications responsables et bénéfiques dans le domaine de l'AA. Dans ce document de position, nous clarifions le fossé entre l'explication des boîtes noires et l'adoption de modèles intrinsèquement interprétables. Nous soulignons le besoin impératif d'interprétabilité des modèles et, suivant l'objectif d'atteindre de meilleurs (c'est-à-dire, plus efficaces ou plus efficients par rapport à la performance prédictive) et des prédicteurs dignes de confiance, nous fournissons une évaluation expérimentale des dernières méthodes d'apprentissage hybride qui intègrent des connaissances symboliques dans les prédicteurs de réseaux de neurones. Nous démontrons comment des modèles hybrides interprétables pourraient potentiellement supplanter les modèles boîte noire dans différents domaines.