최근 스파이킹 신경망(SNN)은 높은 생물학적 플라시빌리티, 이벤트 기반 특성 및 에너지 절약 효율성 덕분에 컴퓨터 비전 분야에서 풍부한 잠재력을 보여주었습니다. 하지만 제한된 주석이 달린 이벤트 기반 데이터셋과 미숙한 SNN 구조로 인해 이들의 성능은 인공 신경망(ANN)보다 열등합니다. DVS 데이터라는 최적의 데이터 형식에서 SNN의 성능을 향상시키기 위해, 우리는 RGB 데이터와 잘 작동하는 ANN을 사용하여 지식 증류를 구현하는 방법을 탐구합니다. 이 경우, 교차 모달리티 및 교차 아키텍처 문제를 해결하는 것이 필요합니다. 본 논문에서는 의미적 유사성과 슬라이딩 교체를 활용하여 교차 모달리티 문제를 완화하고, 간접 단계적 지식 증류를 사용하여 교차 아키텍처 문제를 완화하는 교차 지식 증류(CKD)를 제안합니다. 우리는 N-Caltech101 및 CEP-DVS를 포함한 주요 뉴로모픽 데이터셋에서 우리의 방법을 검증했습니다. 실험 결과, 우리의 방법이 현재의 최신 기술보다 우수한 성능을 발휘함을 보여줍니다. 코드는 https://github.com/ShawnYE618/CKD에서 이용 가능합니다.
Ye et al. (Sat,)은 이 질문을 연구했습니다.