LatentExplainer: Explicando Representaciones Latentes en Modelos Generativos Profundos con Modelos de Fundamentos Multimodales

Los modelos generativos profundos como los VAE y los modelos de difusión han avanzado en varias tareas de generación al aprovechar variables latentes para aprender distribuciones de datos y generar muestras de alta calidad. A pesar de que el campo de la IA explicable ha avanzado en la interpretación de modelos de aprendizaje automático, comprender las variables latentes en los modelos generativos sigue siendo un desafío. Este documento presenta LatentExplainer, un marco para generar automáticamente explicaciones semánticamente significativas de variables latentes en modelos generativos profundos. LatentExplainer aborda tres desafíos principales: inferir el significado de las variables latentes, alinear explicaciones con sesgos inductivos y manejar distintos grados de explicabilidad. Al perturbar variables latentes e interpretar cambios en los datos generados, el marco proporciona un enfoque sistemático para entender y controlar el proceso de generación de datos, mejorando la transparencia y la interpretabilidad de los modelos generativos profundos. Evaluamos nuestro método propuesto en varios conjuntos de datos del mundo real y sintéticos, y los resultados demuestran un rendimiento superior en la generación de explicaciones de alta calidad de variables latentes.