초록 인공지능(AI)은 의료 분야에서 점점 더 많이 활용되고 있지만, 그 "블랙박스" 특성은 여전히 임상 신뢰, 채택 및 검증을 방해하고 있습니다. 설명 가능한 AI(XAI)는 AI 기반 의사 결정을 보다 해석 가능하고 실행 가능하게 함으로써 이러한 투명성 문제를 해결하기 위한 중요한 분야로 부각되었습니다. 이 서술 리뷰는 지난 10년간 의료 분야에서의 XAI의 발전을 살펴봅니다. 먼저 기본적인 XAI 개념을 소개하고 검토 방법론을 설명한 후, 의료 이미징, 전자 건강 기록(EHR), 다중 오믹스 데이터 등 주요 적용 분야에 대한 포괄적인 분석을 제공합니다. 방법론적으로 XAI 기법을 모델 무관적 접근(예: SHAP, LIME, Anchors)과 모델 특정 접근(예: Grad-CAM, LRP, TreeSHAP)으로 분류합니다. 원칙, 장점 및 한계를 요약하는 것 외에도 각 방법의 클래스와 관련된 임상 신뢰성 및 실패 모드에 대한 체계적인 분석을 제공하며, 설명 기법이 실제 임상 설정에서 잘못된, 불안정한 또는 비인과적 해석을 생성할 수 있는 방법을 강조합니다. 이후 리뷰는 결과 검증, 편향 탐지 및 향상된 환자-의사 간 의사소통 등 XAI의 입증된 이점을 논의하며, 제한된 임상 배포, 일관성없는 평가 기준 및 전망 검증 부족과 같은 지속적인 문제를 비판적으로 조사합니다. 마지막으로, XAI를 대규모 기초 모델 및 대화형 AI 시스템에 맞추고, 생물 의학 및 다중 오믹스 해석에 대한 적합성을 확장할 필요성을 강조하는 미래 연구 방향을 제시합니다. 우리는 XAI가 투명성, 신뢰 및 임상 채택을 개선하는 데 필수적이지만, 임상 작업 흐름에 대한 신뢰할 수 있고 확장 가능한 통합을 위해서는 방법론적 혁신과 엄격하고 임상에 기반한 검증 프레임워크가 필요하다고 주장합니다.
Wang et al. (수요일), 이 질문을 연구했습니다.