視覚言語モデルによる概念ベースの説明の強化

概念ベースのアプローチはモデルの挙動を説明し、意思決定における異なる概念の貢献を評価するために広く使用されていますが、専門家でない人にとって関連する概念を特定することは難しい場合があります。この論文では、最先端の大規模視覚言語モデル（VLM）の能力を利用して概念選択を簡素化する新しい方法を紹介します。私たちの方法では、VLMを使用してターゲットデータセットのクラスを説明するテキスト概念を選択します。次に、これらの影響力のあるテキスト概念をテキストから画像へのモデルを用いて人間が理解できる画像概念に変換します。このプロセスにより、私たちはターゲットネットワークを事後的に説明することができます。さらに、方向微分と概念活性化ベクトルを使用して生成された概念の重要性を定量化します。私たちは新生児の痛み分類タスクでこの方法を評価し、生成された概念に対するモデルの出力の感度を分析します。結果は、VLMが非専門家にも容易に理解できる一貫性のある意味のある概念を生成するだけでなく、追加の注釈コストなしに自然画像概念と同等の性能を達成することを示しています。