의료 알고리즘 감사

의료를 위한 인공지능 시스템은 다른 의료 기기와 마찬가지로 실패할 가능성이 있습니다. 그러나 훈련 데이터에서 허위 상관관계를 학습하는 경향, 새로운 배치 설정에 대한 일반화 부족, 신뢰할 수 있는 설명 가능성 메커니즘의 부족과 같은 인공지능 시스템의 특정 특성은 미리 조사하지 않으면 완전히 놓칠 수 있는 예측 불가능한 오류를 발생시킬 수 있습니다. 우리는 임상 작업의 맥락에서 잠재적인 알고리즘 오류를 고려하고, 오류 발생에 기여할 수 있는 구성 요소를 매핑하며, 그 잠재적 결과를 예상하는 과정으로 감사자를 안내하는 의료 알고리즘 감사 프레임워크를 제안합니다. 탐색적 오류 분석, 하위 그룹 테스트 및 적대적 테스트를 포함하여 알고리즘 오류를 테스트하는 여러 접근 방식을 제안하고, 우리의 작업 및 이전 연구에서의 예를 제공합니다. 의료 알고리즘 감사는 인공지능 시스템의 약점을 더 잘 이해하고 그 영향을 완화하기 위한 메커니즘을 구축하는 데 사용할 수 있는 도구입니다. 우리는 안전 모니터링과 의료 알고리즘 감사가 사용자와 개발자 간의 공동 책임이어야 하며, 이 그룹 간의 피드백 메커니즘을 사용하여 배움과 안전한 인공지능 시스템 배포를 유지하도록 장려합니다.