Mejorando la Eficacia de la Intervención mediante la Realineación de Conceptos en Modelos de Cuello de Botella Conceptuales

Los Modelos de Cuello de Botella Conceptuales (CBMs) fundamentan la clasificación de imágenes en conceptos comprensibles por humanos para permitir decisiones de modelo interpretables. Crucialmente, el diseño de los CBM permite inherentemente intervenciones humanas, en las que se otorga a los usuarios expertos la capacidad de modificar elecciones de conceptos potencialmente desalineados para influir en el comportamiento de decisión del modelo de una manera interpretable. Sin embargo, los enfoques existentes a menudo requieren numerosas intervenciones humanas por imagen para lograr un rendimiento sólido, planteando desafíos prácticos en escenarios donde obtener retroalimentación humana es costoso. En este trabajo, encontramos que esto se debe notablemente a un tratamiento independiente de los conceptos durante la intervención, en el cual un cambio en un concepto no influye en el uso de otros en la decisión final del modelo. Para abordar este problema, introducimos un módulo de realineación de intervención de conceptos entrenable, que aprovecha las relaciones de conceptos para realinear las asignaciones de conceptos después de la intervención. A través de benchmarks estándar y del mundo real, encontramos que la realineación de conceptos puede mejorar significativamente la eficacia de la intervención; reduciendo significativamente el número de intervenciones necesarias para alcanzar un rendimiento de clasificación objetivo o precisión de predicción de conceptos. Además, se integra fácilmente en arquitecturas basadas en conceptos existentes sin requerir cambios en los propios modelos. Este costo reducido de colaboración humano-modelo es crucial para mejorar la viabilidad de los CBMs en entornos con recursos limitados.