자극 학습을 통해 심층 신경망의 해석 가능성 향상

심층 신경망(DNN)은 자동 음성 인식을 위한 음향 모델링에서 개선을 보여주었습니다. 그러나 이들은 종종 블랙 박스로 사용되며, 각 은닉층이 수행하는 작업에 대해서는 잘 이해되지 않습니다. 우리는 은닉층의 활성화가 다양한 입력에 따라 어떻게 변화하는지를 이해하고, 이러한 지식을 활용하여 모델의 동작을 수정하는 방법을 모색합니다. 이를 위해 DNN 훈련 과정 중 자극을 통해 은닉 유닛의 동작에 영향을 미치는 자극 심층 학습을 제안합니다. 구체적으로, 각 층의 은닉 유닛이 2차원 그리드에 배열되었을 때 전화 의존적인 지역 활동을 나타내도록 제약이 적용됩니다. 이러한 제약이 네트워크의 분류를 손상시키지 않으면서 가시적인 활성화 영역을 생산할 수 있음을 보여주고, 특정 지역의 활성화를 억제하는 것이 해당 전화의 분류 정확도에 다른 전화보다 더 큰 영향을 미친다는 것을 입증합니다.