잠재 공간에서의 Langevin 동역학을 이용한 정규화 흐름 샘플링

초록 정규화 흐름(NF)은 연속 생성기를 사용하여 단순 잠재(예: 가우시안) 분포를 훈련 데이터 세트와 관련된 경험적 목표 분포로 매핑합니다. 변분 목표를 최소화하여 훈련된 후, 학습된 매핑은 목표 분포의 근사 생성 모델을 제공합니다. 표준 NF는 미분 가능한 매핑을 구현하므로 복잡한 분포를 목표로 할 때 병리학적 행동을 겪을 수 있습니다. 예를 들어, 다중 구성 토폴로지에서의 분포나 서로 매우 가능성이 낮은 영역으로 구분된 고확률 영역을 가진 다중 모드로 특징지어진 분포에서 이러한 문제가 나타날 수 있습니다. 전형적인 증상은 매우 낮은 확률 영역에서 변환의 야코비안 노름이 폭발하는 것입니다. 이 논문은 잠재 도메인에서 목표 분포로 샘플링하기 위해 새로운 마르코프 체인 몬테 카를로 알고리즘을 제안하여 이 문제를 극복하고, 이를 다시 목표 도메인으로 이동하는 방법을 제안합니다. 이 접근 방식은 변환의 야코비안을 명시적으로 활용하는 메트로폴리스 조정 레인제인 알고리즘에 의존합니다. 대체 접근 방식과는 달리, 제안된 전략은 가능도의 유용성을 유지하며 특정 교육을 요구하지 않습니다. 특히, 아키텍처에 관계없이 모든 사전 훈련된 NF 네트워크와 간단하게 사용할 수 있습니다. 합성 및 고차원 실제 데이터 세트에서 수행된 실험은 이 방법의 효율성을 보여줍니다.