자율무기체계(Autonomous Weapon Systems, AWS)의 도입이 확대됨에 따라 인공지능(AI) 의사결정의 불투명성, 운용 과정의 예측 불가능성, 그리고 비의도적 결과 발생 시 책임 공백(accountability gap)에 대한 우려가 증가하고 있다. 그러나, 기존의 시험평가 체계는 정적 성능과 안전성 중심으로 설계되어 있어, 비결정성과 환경 적응성을 특징으로 하는 AI 기반 AWS의 위험을 충분히 관리하는 데 한계를 가진다. 본 연구는 설명 가능 인공지능(Explainable AI, XAI)을 단순한 기술적 해석 도구가 아니라 AWS의 기술–운용–제도 계층을 연결하는 거버넌스 메커니즘으로 재정의한다. 이를 바탕으로 기술적 투명성과 수명주기 로그, 이해 기반 인간 개입, 그리고 제도적 감사와 정책 환류를 연계하는 XAI 기반 3계층 동적 신뢰성 거버넌스 모델을 제안한다. 제안된 구조의 운용 논리를 설명하기 위해 도심 정보·감시·정찰(ISR) 상황을 가정한 시나리오 기반 개념 분석을 수행하였으며, 향후 실증 연구를 위한 정의 수준(definition-level)의 운용화 지표를 함께 제시하였다. 해당 지표는 시스템 성능뿐 아니라 인간의 이해와 개입 효과, 의사결정 기록의 추적성, 그리고 조직 수준의 정책 환류 기능을 평가 대상으로 포함한다. 본 연구는 AWS 신뢰성 개념을 정적 성능 중심 평가에서 동적 거버넌스 역량 중심으로 확장하였다는 점에서 학술적 의의를 가지며, 대한민국 「국방혁신 4.0」 추진 과정에서 안전성(safety), 책임성(accountability), 추적성(traceability)을 포괄하는 거버넌스 신뢰성 확보를 위한 정책적 시사점을 제공한다.
Jaehun Jung (Sun,) studied this question.