처음부터 초저지연 스파이킹 신경망 훈련하기

스파이킹 신경망(SNN)은 다양한 저전력 비전 작업을 위한 매력적인 시공간 컴퓨팅 패러다임으로 부상하고 있습니다. 그러나 최신(SOTA) SNN 모델은 실시간 사용 사례에서의 배치를 방해하는 다수의 시간 단계 또는 훈련 복잡성을 크게 증가시키는 문제를 안고 있습니다. 이러한 문제를 완화하기 위해, 우리는 Hoyer 정규화를 활용하여 초저지연(최대로 1) 시간 단계의 SNN을 위한 훈련 프레임워크(처음부터)를 제시합니다. 우리는 각 BANN 레이어의 임계값을 활성화 맵의 클립된 버전의 Hoyer 최대값으로 계산합니다. 클리핑 값은 Hoyer 정규화를 사용한 경량 하강법 훈련을 통해 결정됩니다. 우리는 전통적인 이미지 인식 및 객체 탐지를 포함한 대규모 비전 작업에서 우리의 훈련 프레임워크의 효능을 평가합니다. 우리의 실험은 비스파이킹 네트워크와 비교할 때 계산 효율성에서 최대 34배 증가를 보여주며, 정확도/mAP 하락은 경미합니다. 마지막으로, 우리는 Lava-DL 라이브러리에 우리의 프레임워크를 구현하여 Loihi 신경 모폴픽 칩에서 SNN 모델의 배치를 가능하게 합니다.