Exploración de Variedades de Máxima Entropía Demostrable a través de Modelos de Difusión

La exploración es fundamental para resolver problemas de toma de decisiones en el mundo real, como el descubrimiento científico, donde el objetivo es generar diseños verdaderamente innovadores en lugar de imitar distribuciones de datos existentes. En este trabajo, abordamos el desafío de aprovechar el poder representacional de los modelos generativos para la exploración sin depender de una cuantificación de incertidumbre explícita. Introducimos un marco novedoso que plantea la exploración como maximización de la entropía sobre la variedad de datos aproximada definida implícitamente por un modelo de difusión preentrenado. Luego, presentamos un nuevo principio para la exploración basado en la estimación de densidad, un problema bien conocido por ser desafiante en la práctica. Para superar este problema y hacer que este método sea realmente escalable, aprovechamos una conexión fundamental entre la entropía de la densidad inducida por un modelo de difusión y su función de puntuación. Basándonos en esto, desarrollamos un algoritmo basado en descenso por espejo que resuelve el problema de exploración como un ajuste fino secuencial de un modelo de difusión preentrenado. Probamos su convergencia al modelo de difusión exploratorio óptimo bajo suposiciones realistas aprovechando el reciente entendimiento de los flujos espejo. Finalmente, evaluamos empíricamente nuestro enfoque tanto en difusión sintética como en tareas de difusión de texto a imagen de alta dimensión, demostrando resultados prometedores.