Résoudre l'énigme : Dériver des explications optimales des réseaux profonds

Le progrès accéléré de l'intelligence artificielle (IA) a popularisé les modèles d'apprentissage profond dans divers domaines, mais leur opacité inhérente pose des défis, notamment dans des domaines critiques tels que la santé, la médecine et les géosciences. L'IA explicable (XAI) a émergé pour éclairer ces modèles de "boîte noire", aidant à déchiffrer leur processus de prise de décision. Néanmoins, différentes méthodes XAI produisent des explications très différentes. Cette variabilité entre méthodes augmente l'incertitude et réduit la confiance dans les prédictions des réseaux profonds. Dans cette étude, pour la première fois, nous proposons un nouveau cadre conçu pour améliorer l'explicabilité des réseaux profonds, en maximisant à la fois la précision et la compréhensibilité des explications. Notre cadre intègre diverses explications provenant de méthodes XAI établies et utilise un "optimiseur d'explication" non linéaire pour construire une explication unique et optimale. Grâce à des expériences sur des tâches de classification multi-classe et binaire dans des images d'objets 2D et d'imagerie neuroscientifique 3D, nous validons l'efficacité de notre approche. Notre optimiseurs d'explications a obtenu des scores de fidélité supérieurs, avec des moyennes de 155 % et 63 % plus élevées que la meilleure méthode XAI dans les applications 3D et 2D, respectivement. De plus, notre approche a permis une complexité plus faible, augmentant la compréhensibilité. Nos résultats suggèrent que des explications optimales basées sur des critères spécifiques sont dérivables et abordent le problème de la variabilité entre méthodes dans la littérature XAI actuelle.