효율적인 반복 네트워크 가지치기 접근법

네트워크 가지치기는 대규모 신경망의 매개변수 수를 최소화하는 기술입니다. 네트워크 가지치기는 한 번 또는 여러 번 수행될 수 있습니다. 원샷 네트워크 가지치기는 필요한 희소성을 달성하기가 쉽지만, 해당 정확도 감소는 다양한 목표에 비추어 받아들일 수 없을 수 있습니다. 반면에, 반복 네트워크 가지치기는 정확도를 유지하기 위해 네트워크를 반복적으로 다듬고 재훈련하지만, 이 반복 절차의 긴 실행 시간으로 어려움을 겪습니다. 본 연구에서는 중복 훈련을 제거함으로써 네트워크 가지치기에 대한 효율적인 접근법을 제안합니다. 실험 결과는 우리의 접근법이 최첨단과 비교하여 유사한 네트워크 정확도를 유지하며 훈련 시간을 25%에서 거의 60%까지 감소시킨다는 것을 보여줍니다.