自己説明型ニューラルネットワークによる堅牢な解釈可能性へ向けて

複雑な機械学習モデルの解釈可能性に関する最近の研究は、特定の予測の周りで以前に訓練されたモデルの事後的な説明を推定することに焦点を当ててきました。学習中に解釈可能性が重要な役割を果たす自己説明型モデルには、はるかに少ない関心が寄せられています。私たちは、一般的な説明に対して明示性、忠実性、安定性という3つの要件を提案し、既存の手法がこれらを満たしていないことを示します。それに応じて、私たちは、線形分類器を複雑かつアーキテクチャ的に明示的なモデルに徐々に一般化する段階的な自己説明型モデルを設計します。忠実性と安定性は、そのようなモデルに特化した正規化を通じて強制されます。さまざまなベンチマークデータセットにおける実験結果は、私たちのフレームワークがモデルの複雑さと解釈可能性を調和させるための有望な方向性を提供していることを示しています。