FFJORD : Dynamiques Continues à Forme Libre pour des Modèles Généraux Réversibles Scalable

Une classe prometteuse de modèles génératifs fait correspondre des points d'une distribution simple à une distribution complexe via un réseau de neurones inversible. L'entraînement basé sur ces modèles nécessite de restreindre leur pour permettre un calcul peu coûteux des déterminants jacobiens. La trace jacobienne peut être utilisée si la transformation est régie par une équation différentielle ordinaire. Dans ce document, nous utilisons l'estimateur de trace de pour fournir une estimation sans biais et scalable de la densité. Le résultat est un modèle génératif inversible en temps continu avec estimation de densité et échantillonnage en un seul passage, tout en permettant des architectures de réseau non restreintes. Nous démontrons notre approche sur l'estimation haute dimensionnelle, la génération d'images et l'inférence variationnelle, atteignant l'état de l'art parmi les méthodes de vraisemblance exacte avec un échantillonnage efficace.