Interpretabilidad Causal para Aprendizaje Automático - Problemas, Métodos y Evaluación

Los modelos de aprendizaje automático han logrado éxitos notables en una multitud de aplicaciones. Sin embargo, la mayoría de estos modelos son cajas negras, y es oscuro cómo se toman las decisiones en ellos. Esto hace que los modelos sean poco fiables y no dignos de confianza. Para proporcionar información sobre los procesos de toma de decisiones de estos modelos, se han propuesto una variedad de modelos interpretables tradicionales. Además, para generar explicaciones más amigables para los humanos, el trabajo reciente sobre interpretabilidad intenta responder preguntas relacionadas con la causalidad, como "¿Por qué toma este modelo tales decisiones?" o "¿Fue una característica específica la que causó la decisión tomada por el modelo?". En este trabajo, los modelos que buscan responder preguntas causales se denominan modelos interpretables causales. Las encuestas existentes han cubierto conceptos y metodologías de la interpretabilidad tradicional. En este trabajo, presentamos una encuesta completa sobre modelos interpretables causales desde los aspectos de los problemas y métodos. Además, esta encuesta proporciona información detallada sobre las métricas de evaluación existentes para medir la interpretabilidad, lo que puede ayudar a los profesionales a entender en qué escenarios es adecuada cada métrica de evaluación.