인공지능(AI) 모델의 블랙박스 특성은 중요한 응용에서 사용 시 많은 우려의 원인이 되어 왔습니다. 설명 가능한 인공지능(XAI)은 그들의 결정과 행동에 대해 명확하고 해석 가능한 설명을 제공할 수 있는 기계 학습 모델을 만드는 것을 목표로 하는 빠르게 성장하는 연구 분야입니다. 네트워크 사이버 보안 분야에서 XAI는 사이버 위협의 행동을 더 잘 이해하고 더 효과적인 방어를 설계할 수 있게 함으로써 네트워크 보안 접근 방식을 혁신할 잠재력이 있습니다. 이 조사에서는 네트워크 시스템의 사이버 보안을 위한 XAI의 최신 기술을 검토하고 이 중요한 문제를 해결하기 위해 제안된 다양한 접근 방식을 탐색합니다. 리뷰는 네트워크 기반 사이버 보안 위협 및 문제에 대한 체계적인 분류에 따릅니다. 우리는 사이버 보안 컨텍스트에서 현재 XAI 방법의 도전과 한계를 논의하고 미래 연구를 위한 유망한 방향을 제시합니다.
Rjoub et al. (2023)은 이 질문을 연구했습니다.