Key points are not available for this paper at this time.
인공지능(AI) 심층 학습 기법은 뛰어난 이미지 분류 성능으로 질병 진단을 혁신했습니다. 이러한 뛰어난 결과에도 불구하고, 임상 실무에서 이러한 기법의 광범위한 채택은 여전히 느린 속도로 진행되고 있습니다. 주요 장애물 중 하나는 훈련된 심층 신경망(DNN) 모델이 예측을 제공하지만, 그 예측이 어떻게 이루어졌는지에 대한 질문이 여전히 답변되지 않는다는 것입니다. 이 연결은 개업의, 환자 및 기타 이해관계자들이 자동화된 진단 시스템에 대한 신뢰를 높이기 위해 규제된 의료 영역에서 매우 중요합니다. 의료 이미징을 위한 심층 학습의 응용은 자율주행차 사고와 유사한 건강 및 안전 문제로 인해 신중하게 해석해야 합니다. 거짓 긍정 및 거짓 부정 사례의 결과는 환자의 복지에 심각한 영향을 미치며 무시할 수 없습니다. 이는 첨단 심층 학습 알고리즘이 복잡하게 상호 연결된 구조, 수백만 개의 매개변수 및 '블랙 박스' 특성을 포함하고 있어 전통적인 기계 학습 알고리즘과 달리 내부 작동에 대한 이해가 거의 없다는 사실로 더욱 악화됩니다. 설명 가능한 AI(XAI) 기법은 모델 예측을 이해하는 데 도움이 되어 시스템에 대한 신뢰를 개발하고, 질병 진단을 가속화하며, 규제 요건 준수를 충족하는 데 기여합니다. 이 조사는 생물의학 이미징 진단을 위한 XAI의 유망한 분야에 대한 포괄적인 리뷰를 제공합니다. 또한 XAI 기법의 분류를 제공하고, 열린 도전 과제를 논의하며, 임상 의사, 규제 기관 및 모델 개발자에게 관심이 있을 XAI의 미래 방향을 제시합니다.
Nazir et al. (Sun,)은 이 질문을 연구했습니다.