단일 이미지 초해상도를 위한 지역 선택적 특징 증류

최근 컨볼루션 신경망(CNN) 기반 단일 이미지 초해상도(SISR) 방법의 개선은 회귀 손실을 최소화하는 것 외에 적합한 훈련 알고리즘을 찾기보다는 네트워크 아키텍처를 제작하는 데 크게 의존하고 있다. 지식 증류(KD)를 적용하는 것은 SISR의 추가 개선을 가져올 수 있는 방법을 열어주며, 모델 효율성 측면에서도 유익하다. KD는 추가 테스트 매개변수를 사용하지 않고 심층 신경망(DNN)의 성능을 향상시키는 모델 압축 방법이다. 더 나은 용량-성능 절충을 제공하는 능력으로 최근 주목받고 있다. 본 논문에서는 SISR에 적합한 새로운 특징 증류(FD) 방법을 제안한다. 우리는 기존 FitNet 기반 FD 방법의 한계를 보여주며, SISR 작업에서 어려움을 겪는 사실을 제시하고, 지역 특징 정보에 집중하도록 기존 FD 알고리즘을 수정할 것을 제안한다. 또한, 특정 픽셀 위치에 선택적으로 초점을 맞춰 특징 정보를 추출하는 교사-학생-차이 기반 부드러운 특징 주의 방법을 제안한다. 우리는 이 방법을 지역 선택적 특징 증류(LSFD)라고 부르며, 우리 방법이 SISR 문제에서 기존 FD 방법보다 우수하다는 것을 검증한다.