ビデオ認識モデルのためのハードラベル・ブラックボックス敵対的例の生成

近年、ビデオ認識モデルは深層ニューラルネットワーク（DNN）の急速な発展を目の当たりにしています。しかし、これらのモデルは、クリーンサンプルに対して目に見えない摂動を加えることによって生成される敵対的例に対しては堅牢ではありません。最近の研究では、ハードラベル・ブラックボックス設定で敵対的例を生成することは特に難しいが、非常に実用的であることが示されています。画像認識モデルと比較して、ビデオ認識モデルのためのハードラベル・ブラックボックス敵対的例生成アルゴリズムは少数です。この目的のために、私たちはダイナミック・ブラックボックスアルゴリズム（DBA）と呼ばれるハードラベル・ブラックボックスビデオ敵対的例生成アルゴリズムを提案します。最初に、DBAはバイナリサーチアルゴリズムを使用して、2つの元のビデオ間の境界ビデオを見つけます。そして、サンプリングベースのアルゴリズムを使って境界ビデオ上の勾配を推定します。最後に、動的なステップサイズ調整戦略を用いて、DBAは推定された勾配の方向に向かって境界ビデオを移動させ、敵対的ビデオを生成します。さらに、敵対的例生成プロセスで生成された無効なサンプルをスキップするための別の戦略を設計しました。実験により、DBAが摂動の大きさとクエリ効率の間で優れたトレードオフを実現することが示されました。具体的には、DBAは最先端のアルゴリズムに対して、平均二乗誤差（MSE）の平均50％以上の削減を達成しました。