敵対的例の移転可能性を理解し、向上させる

最先端の深層ニューラルネットワークは、元の入力に対して小さな悪意のある摂動を加えることによって形成される敵対的例に対して脆弱であることが知られています。さらに、これらの摂動はモデル間で移転することができます：特定のモデルのために生成された敵対的例は、他の未確認のモデルを誤って導くことがよくあります。その結果、敵はそれを利用して、クエリなしで展開されたシステムに攻撃を仕掛けることができ、これは特にセキュリティが重要な分野における深層学習の適用を大いに妨げます。本研究では、敵対的例の移転可能性に影響を与える可能性のある二つのクラスの要因を体系的に研究します。一つはネットワークアーキテクチャ、モデルの容量、テスト精度などのモデル固有の要因に関するものです。もう一つは、敵対的例を構築するための損失関数の局所的な滑らかさです。これらの理解に基づいて、移転可能性を向上させるためのシンプルで効果的な戦略が提案されます。これは分散削減攻撃と呼ばれ、敵対的例を生成するために分散削減勾配を利用します。その有効性は、CIFAR-10およびImageNetデータセットのさまざまな実験によって確認されています。