概念発見のための潜在拡散モデルを用いた反事実的軌跡生成

信頼性は、医療のような高リスク分野における不透明なディープラーニングモデルの安全な適用に必要不可欠な前提条件です。意思決定プロセスを理解することは、信頼を育むだけでなく、医療研究の進展につながる可能性のある複雑なモデルの未知の意思決定基準を明らかにすることにも寄与します。ブラックボックスモデルからの意思決定関連概念の発見は、特に困難なタスクです。本研究は、潜在拡散に基づく反事実的軌跡を通じた概念発見（CDCT）を提案します。これは、拡散モデルの優れた画像合成能力を活用した概念発見のための新しい三段階フレームワークです。第1段階では、CDCTは潜在拡散モデル（LDM）を使用して反事実的軌跡データセットを生成します。このデータセットは、変分オートエンコーダ（VAE）を使用して分類に関連する概念の分離表現を導出するために使用されます。最後に、分離された潜在空間内の関連する概念を特定するために探索アルゴリズムが適用されます。CDCTを最大の公共皮膚病変データセットで訓練された分類器に適用した結果、いくつかのバイアスの存在だけでなく、有意義なバイオマーカーも明らかになりました。さらに、CDCT内で生成された反事実は、以前に確立された最良の方法で生成されたものよりも優れたFIDスコアを示し、リソース効率は12倍向上しています。無監督の概念発見は、信頼できるAIの適用やさまざまな分野での人間の知識のさらなる発展に大きな可能性を秘めています。CDCTは、この方向へのさらなるステップを示しています。