신경망에서 그래디언트 기반 설명의 불확실성 정량화

설명 방법은 모델 예측의 이유를 이해하는 데 도움을 줍니다. 이러한 방법은 점점 더 모델 디버깅, 성능 최적화 및 모델의 작동 방식에 대한 통찰력을 얻는 데 사용되고 있습니다. 이러한 방법의 중요한 응용 프로그램을 고려할 때, 이들 방법으로 생성된 설명과 관련된 불확실성을 측정하는 것이 필수적입니다. 본 논문에서는 불확실성 추정 방법과 설명 방법을 결합하여 신경망의 설명 불확실성을 확인하는 파이프라인을 제안합니다. 우리는 이 파이프라인을 사용하여 CIFAR-10, FER+, 및 California Housing 데이터 세트에 대한 설명 분포를 생성합니다. 이러한 분포의 변동계수를 계산하여 설명에 대한 신뢰도를 평가하고, Guided Backpropagation을 사용하여 생성된 설명이 관련된 불확실성이 낮음을 확인합니다. 또한, 생성된 설명의 질을 평가하기 위해 수정된 픽셀 삽입/삭제 메트릭을 계산합니다.