Estimation fiable des effets causaux à l'aide de modèles prédictifs

Au cours des dernières années, les algorithmes d'apprentissage automatique ont été largement adoptés dans de nombreux domaines en raison de leur efficacité et de leur polyvalence. Cependant, la complexité des modèles prédictifs a conduit à un manque d'interprétabilité dans la prise de décision automatique. Des travaux récents ont amélioré l'interprétabilité générale en estimant les contributions des caractéristiques d'entrée aux prédictions d'un modèle pré-entraîné. S'appuyant sur ces améliorations, les praticiens cherchent à obtenir des aperçus causals sur les mécanismes générant les données sous-jacentes. À cet égard, des travaux ont tenté d'intégrer des connaissances causales dans l'interprétabilité, car les techniques non causales peuvent conduire à des explications paradoxales. Dans cet article, nous soutenons que chaque question concernant un effet causal nécessite son propre raisonnement et que se fier à un modèle prédictif initial entraîné sur un ensemble arbitraire de variables peut entraîner des problèmes de quantification lors de l'estimation de tous les effets possibles. Comme alternative, nous préconisons une méthodologie axée sur les requêtes qui aborde chaque question causale séparément. En supposant que la structure causale reliant les variables est connue, nous proposons d'utiliser les outils d'inférence causale pour quantifier un effet particulier sous la forme d'une formule impliquant des probabilités observables. Nous dérivons ensuite des conditions sur la sélection des variables pour entraîner un modèle prédictif adapté à la question causale d'intérêt. Enfin, nous identifions des techniques d'IA explicable (XAI) appropriées pour estimer les effets causaux à partir des prédictions du modèle. De plus, nous introduisons une nouvelle méthode pour estimer les effets directs par intervention sur les mécanismes causaux.