Les modèles de diffusion (MD) créent des échantillons à partir d'une distribution de données en partant de bruit aléatoire et en résolvant itérativement une équation différentielle ordinaire (EDO) dans le temps inversé. Étant donné que chaque étape de la solution itérative nécessite une évaluation de fonction neurale coûteuse (NFE), il y a eu un intérêt considérable pour la résolution approximative de ces EDO de diffusion avec seulement quelques NFE sans modifier le modèle sous-jacent. Cependant, dans le régime de quelques NFE, nous observons que le suivi de l'évolution réelle de l'EDO est fondamentalement impossible avec des solveurs EDO traditionnels. Dans ce travail, nous proposons une nouvelle méthode qui apprend un bon solveur pour le MD, que nous appelons Résoudre pour le Solveur (S4S). S4S optimise directement un solveur pour obtenir une bonne qualité de génération en apprenant à correspondre à la sortie d'un puissant solveur maître. Nous évaluons S4S sur six MD pré-entraînés différents, y compris des MD en espace pixel et en espace latent pour des échantillons conditionnels et inconditionnels. Dans tous les paramètres, S4S améliore uniformément la qualité des échantillons par rapport aux solveurs EDO traditionnels. De plus, notre méthode est légère, sans données, et peut être intégrée en boîte noire sur n'importe quel calendrier de discrétisation ou architecture pour améliorer les performances. En nous basant sur cela, nous proposons également S4S-Alt, qui optimise à la fois le solveur et le calendrier de discrétisation. En exploitant l'ensemble de l'espace de conception des solveurs de MD, avec 5 NFE, nous obtenons un FID de 3,73 sur CIFAR10 et 13,26 sur MS-COCO, représentant une amélioration de 1,5 par rapport aux méthodes EDO sans entraînement précédentes.
Frankel et al. (Mon,) ont étudié cette question.