Naviguer dans les Espaces Structurés de Contre-factualité : Génération de Contre-factuels via Diffusion Structurée

Générer des explications contre-factuelles est l'une des approches les plus efficaces pour découvrir le fonctionnement interne des modèles de réseaux neuronaux en boîte noire et établir la confiance des utilisateurs. Bien que des progrès remarquables aient été réalisés dans la modélisation générative utilisant des modèles de diffusion dans des domaines comme la vision, leur utilité pour générer des explications contre-factuelles dans des modalités structurées reste inexplorée. Dans cet article, nous présentons le Diffuseur de Contre-factuels Structurés ou SCD, le premier cadre plug-and-play utilisant la diffusion pour générer des explications contre-factuelles dans des données structurées. SCD apprend la distribution sous-jacente des données via un modèle de diffusion qui est ensuite guidé au moment du test pour générer des contre-factuels pour tout modèle en boîte noire arbitraire, toute entrée et toute prédiction souhaitée. Nos expériences montrent que nos contre-factuels non seulement présentent une grande plausibilité par rapport à l'état de l'art existant, mais montrent également une proximité et une diversité significativement meilleures.