Orientação de Gradiente para Modelos de Difusão: Uma Perspectiva de Otimização

Modelos de difusão demonstraram sucessos empíricos em várias aplicações e podem ser adaptados às necessidades específicas da tarefa por meio de orientação. Este artigo introduz uma forma de orientação por gradiente para adaptar ou ajustar modelos de difusão em direção a objetivos de otimização especificados pelo usuário. Estudamos os aspectos teóricos de um processo de amostragem guiado por pontuação, ligando o modelo de difusão orientado por gradiente à otimização de primeira ordem. Mostramos que adicionar orientação por gradiente ao processo de amostragem de um modelo de difusão pré-treinado é essencialmente equivalente a resolver um problema de otimização regularizada, onde o termo de regularização atua como um prior determinado pelos dados de pré-treinamento. Os modelos de difusão conseguem aprender o subespaço latente dos dados, no entanto, adicionar explicitamente o gradiente de uma função objetiva externa ao processo de amostragem comprometeria a estrutura nas amostras geradas. Para remediar essa questão, consideramos uma forma modificada de orientação por gradiente baseada em uma perda de predição para frente, que aproveita a função de pontuação pré-treinada para preservar a estrutura latente nas amostras geradas. Consideramos também uma versão de difusão guiada por gradiente finamente ajustada de forma iterativa, onde é possível consultar gradientes em pontos de dados recém-gerados e atualizar a rede de pontuação usando novas amostras. Esse processo imita uma iteração de otimização de primeira ordem em expectativa, para a qual provamos uma taxa de convergência O(1/K) para o ótimo global quando a função objetiva é côncava.