公正性が敵対的脆弱性に及ぼす影響

公正性と堅牢性は、学習モデルの2つの重要な概念です。公正性は、モデルが特定のグループに対して不均衡に被害（または利益）をもたらさないことを保証し、堅牢性は小さな入力の摂動に対するモデルの耐性を測定します。同様に重要な特性であるものの、本論文は公正性と堅牢性の間の二項分けを示し、公正性を追求することが敵対的サンプルに対するモデルの堅牢性を減少させる場合を分析します。報告された分析は、そうした対照的な挙動を引き起こす要因に光を当て、グループ間の意思決定境界までの距離が主要な要因であることを示唆しています。非線形モデルと異なるアーキテクチャに関する実験は理論的な発見を検証します。理論的分析に加え、本論文は公正性と堅牢性のバランスをうまく取るモデルを構築するためのシンプルで効果的な解決策も提案します。