炎の下の説明可能なグラフニューラルネットワーク

グラフニューラルネットワーク（GNN）による予測は、その複雑な計算挙動とグラフの抽象的な性質のために、通常は解釈可能性に欠けます。これに対処するために、多くのGNN説明手法が登場しました。それらの目標は、モデルの予測を説明し、意思決定に重要なアプリケーションでGNNモデルを展開する際に信頼を得ることです。ほとんどのGNN説明手法は事後的に機能し、重要なエッジやノードの小さなサブセットの形で説明を提供します。この論文では、これらの説明は残念ながら信頼できないことを示します。一般的なGNN説明手法は、敵対的摂動に非常に敏感であることが判明しました。つまり、モデルの予測を保持する元のグラフ構造の小さな摂動でさえ、 drastically 違った説明をもたらす可能性があります。これは、GNNの事後的説明手法の信頼性と実用性に疑問を投げかけます。GNN説明モデルへの攻撃ができるように、GXAttackという新しい攻撃手法を考案しました。これは、そのような設定下での事後的GNN説明のための最初の最適化ベースの敵対的攻撃手法です。私たちの攻撃の壊滅的な効果のために、今後のGNN説明者の敵対的評価を求め、その堅牢性を示すことを呼びかけます。