Aprendizado Variacional de Modelos de Variáveis Latentes de Processos Gaussianos através de Amostragem de Importância com Gradiente Estocástico Annealed

Modelos de Variáveis Latentes de Processos Gaussianos (GPLVMs) tornaram-se cada vez mais populares para tarefas não supervisionadas, como redução de dimensionalidade e recuperação de dados ausentes, devido à sua flexibilidade e natureza não linear. Uma versão ponderada por importância dos GPLVMs bayesianos foi proposta para obter um limite variacional mais apertado. No entanto, esta versão da abordagem é principalmente limitada à análise de estruturas de dados simples, pois a geração de uma distribuição de proposta eficaz pode se tornar bastante desafiadora em espaços de alta dimensão ou com conjuntos de dados complexos. Neste trabalho, propomos uma abordagem de Amostragem de Importância Annealed (AIS) para abordar essas questões. Ao transformar a posterior em uma sequência de distribuições intermediárias usando o recozimento, combinamos as forças dos amostradores de Monte Carlo Sequenciais e VI para explorar uma gama mais ampla de distribuições posteriores e gradualmente nos aproximar da distribuição alvo. Além disso, propomos um algoritmo eficiente reparametrizando todas as variáveis na evidência do limite inferior (ELBO). Resultados experimentais em conjuntos de dados de brinquedo e imagem demonstram que nosso método supera métodos de última geração em termos de limites variacionais mais apertados, maiores log-verossimilhanças e convergência mais robusta.