DiffExplainer: ブラックボックスモデルを反実仮想生成を通じて明らかにする

医療画像の分野、特に早期疾病検出と予後に関連するタスクにおいて、AIモデルの予測背後の理由を理解することは、その信頼性を評価するために不可欠です。従来の説明手法は、特に決定的な特徴が微妙であったり明白でない場合に、医療画像分類における決定的な特徴を特定する際に課題に直面します。この制限に対処するために、我々はブラックボックスモデルに接続した際に異なる決定を促す反実仮想画像を生成できるエージェントモデルを提案します。このエージェントモデルを使用することで、ブラックモデルの最終的な予測に影響を与える重要な画像パターンを明らかにすることができます。我々の方法論により、ディープブラックボックスの決定に影響を与える特徴を効率的に特定します。我々は医療予後タスクの厳格な領域でアプローチを検証し、既存の解釈手法と比較して医療画像分類におけるディープラーニングモデルの信頼性を高める効果と可能性を示しました。コードは https://github.com/ayanglab/DiffExplainer で公開される予定です。