MedBN: 悪意のあるテストサンプルに対する堅牢なテスト時間適応

テスト時間適応（TTA）は、トレーニングデータとテストデータの間の予期しない分布のシフトによる性能低下に対処するための有望な解決策として浮上しています。最近のTTA手法はテストデータの変動への適応に優れていますが、このような適応性は悪意のある例に対してモデルを脆弱にさらすことになります。この側面は限られた注目しか集めていません。以前の研究では、テストバッチの小さな割合が悪意を持って操作されても、TTA内にセキュリティの脆弱性が存在することが明らかにされています。新たな脅威に対応するために、私たちはメディアンバッチノーマライゼーション（MedBN）を提案します。これは、テスト時間推論中のバッチノーマライゼーションレイヤー内での統計推定においてメディアンの堅牢性を活用します。私たちの手法はアルゴリズムに依存しないため、既存のTTAフレームワークとのシームレスな統合を可能にします。CIFAR10-C、CIFAR100-C、ImageNet-Cを含むベンチマークデータセットに関する実験結果は、MedBNがさまざまな攻撃シナリオにわたって堅牢な性能を維持する点で既存のアプローチを一貫して上回ることを示しています。これには、瞬時攻撃および累積攻撃が含まれます。広範な実験を通じて、私たちのアプローチが攻撃がない場合でも性能を維持し、堅牢性と性能の実用的なバランスを実現していることを示します。