MCPNet++: Modelos de Clasificación Interpretable a través de Prototipos de Concepto Multinivel

Los métodos post-hoc e inherentemente interpretables han mostrado un gran éxito en desentrañar el funcionamiento interno de los modelos de caja negra, ya sea examinándolos después del entrenamiento o diseñándolos explícitamente para la interpretabilidad. Si bien estos enfoques efectivamente reducen la brecha semántica entre el espacio latente de un modelo y la comprensión humana, normalmente extraen solo una alta semántica del mapa de características final del modelo. Como resultado, proporcionan una perspectiva limitada sobre el proceso de toma de decisiones. Argumentamos que las explicaciones que carecen de información sobre las semánticas inferiores y medias no pueden considerarse totalmente fieles o genuinamente útiles. Para abordar este problema, introducimos el Clasificador de Prototipos de Concepto Multinivel (MCPNet), que ofrece una interpretación más holística al basarse en información de múltiples niveles dentro del modelo. En lugar de depender de etiquetas de concepto predefinidas, MCPNet descubre de forma autónoma conceptos significativos a partir de mapas de características. Para aumentar la versatilidad, proponemos además MCPNet++, que puede aplicarse sin problemas tanto a la arquitectura de CNN como a la de transformadores, lo que le permite aprender conceptos significativos de sus respectivas características. Basándonos en estos conceptos aprendidos, también introducimos un método basado en un modelo de lenguaje grande (LLM) para cerrar la brecha entre estos conceptos y la percepción humana. Los resultados experimentales muestran que MCPNet++ proporciona explicaciones más completas sin sacrificar el rendimiento del modelo, con los conceptos descubiertos alineándose estrechamente con la comprensión humana.