Encontrando Regiones de Explicaciones Contrafactuales a través de Optimización Robusta

Las explicaciones contrafactuales (ECs) juegan un papel importante en la detección de sesgos y en la mejora de la explicabilidad de los modelos de clasificación basados en datos. Una EC es un punto de datos mínimamente perturbado para el cual la decisión del modelo cambia. La mayoría de los métodos existentes solo pueden proporcionar una EC, la cual puede no ser alcanzable para el usuario. En este trabajo, derivamos un método iterativo para calcular ECs robustas (es decir, ECs que permanecen válidas incluso después de que las características sean ligeramente perturbadas). Con este fin, nuestro método proporciona una región completa de ECs, permitiendo al usuario elegir un recurso adecuado para obtener un resultado deseado. Utilizamos ideas algorítmicas de optimización robusta y demostramos resultados de convergencia para los métodos de aprendizaje automático más comunes, incluyendo árboles de decisión, ensambles de árboles y redes neuronales. Nuestros experimentos muestran que nuestro método puede generar de manera eficiente ECs robustas globalmente óptimas para una variedad de conjuntos de datos comunes y modelos de clasificación. Historia: Aceptado por Andrea Lodi, Editor de Área para Diseño y Análisis de Algoritmos—Discreto. Financiamiento: Este trabajo fue apoyado por la Nederlandse Organisatie voor Wetenschappelijk Onderzoek Grant OCENW.GROOT.2019.015, Optimización para y con Aprendizaje Automático (ÓPTIMO). Material Suplementario: El apéndice en línea está disponible en https://doi.org/10.1287/ijoc.2023.0153.