변분 오토인코더의 시각적 설명을 향하여

합성곱 신경망(CNN) 모델의 해석 가능성에 대한 최근의 발전은 모델 예측 시각화 및 이해에서 인상적인 진전을 가져왔습니다. 특히, 그래디언트 기반 시각적 주의 방법들은 시각적 설명을 위한 수단으로 시각적 주의 맵을 사용하는 최근의 많은 노력을 주도해왔습니다. 그러나 핵심 문제는 이러한 방법들이 분류 및 범주화 작업을 위해 설계되었으며, 생성 모델, 예를 들어 변분 오토인코더(VAE) 설명으로의 확장이 간단하지 않다는 점입니다. 본 연구에서는 이 중요한 격차를 해소하기 위한 초석을 다지며, 그래디언트 기반 주의에 의한 VAE를 시각적으로 설명하기 위한 첫 번째 기술을 제안합니다. 우리는 학습된 잠재 공간에서 시각적 주의를 생성하는 방법을 제시하며, 이러한 주의 설명이 단순히 VAE 예측을 설명하는 것 이상의 역할을 수행한다는 것을 보여줍니다. 우리는 이러한 주의 맵이 이미지에서 이상치를 국소화하는 데 어떻게 사용될 수 있는지를 보여주며, MVTec-AD 데이터셋에서 최첨단 성능을 입증합니다. 또한 우리는 이들이 모델 훈련에 어떻게 주입되어 VAE가 향상된 잠재 공간 분리 학습에 도움이 되는지를 Dsprites 데이터셋에서 시연합니다.