深層神経ネットワークを可視化する新しい方法

特定の入力に対する深層神経ネットワークの応答を可視化する方法を提示します。たとえば、画像データに対して、私たちの方法は特定のクラスを選択することを支持する証拠と反対する証拠を示す領域を強調します。この方法は以前の方法のいくつかの欠点を克服し、畳み込みネットワークの意思決定プロセスに対する大きな追加の洞察を提供します。これはモデルを改善するためまたはこのような方法の医療などでの採用を加速するために重要です。ImageNetデータを使った実験では、私たちの方法がどのように機能し、深層神経ネットを理解するためにさまざまな方法で適用できるかを示します。