VAE 모델의 진단 및 향상

변분 오토인코더(VAE)는 널리 영향력 있는 심층 생성 모델로 알려져 있지만, 기본 에너지 함수의 많은 측면은 여전히 잘 이해되지 않고 있습니다. 특히, 가우시안 인코더/디코더 가정이 VAE의 실제 샘플 생성 효과를 감소시킨다고 일반적으로 믿어집니다. 이와 관련하여 우리는 VAE 목표를 철저히 분석하여 이 믿음이 사실인지 아닌지를 구별하는 상황을 다룹니다. 그 후에 우리는 추가적인 하이퍼파라미터나 민감한 조정이 필요 없는 간단한 VAE 향상을 개발하기 위해 해당 통찰력을 활용합니다. 정량적으로 이 제안은 깔끔한 샘플과 안정적인 FID 점수를 생산하며, 다양한 GAN 모델과 실제로 경쟁이 될 수 있는 성능을 보여줍니다. 원래 VAE 아키텍처의 바람직한 속성을 유지하면서 말이죠. 이 연구의 짧은 버전은 ICLR 2019 컨퍼런스 프로시딩에 게재될 예정입니다(Dai와 Wipf, 2019). 우리의 모델 코드는 https://github.com/daib13/TwoStageVAE에서 확인할 수 있습니다.