機械学習のロバストネス：入門

この章では、機械学習（ML）におけるロバストネスの基本概念と、人工知能（AI）システムにおける信頼性を確立する上でのその重要な役割を探ります。議論は、ロバストネスの詳細な定義から始まり、さまざまな環境条件において安定した性能を維持するMLモデルの能力として描かれます。MLロバストネスは、一般化可能性との相補性、信頼できるAIの必要条件としての地位、敵対的（アドバーサリアル）および非敵対的な側面、定量的指標、再現性や説明可能性などの指標を通じて分解されます。この章は、データバイアス、モデルの複雑さ、過小指定されたMLパイプラインの落とし穴など、ロバストネスを妨げる要因を掘り下げます。デジタル領域と物理的領域の両方を含む敵対的攻撃を含む、ロバストネス評価のための重要な技術を広い視点から調査します。また、非敵対的データシフトや深層学習（DL）ソフトウェアテスト手法のニュアンスについても言及します。議論は、データに中心を置いたアプローチ（デバイアスや拡張など）から始めて、ロバストネスを強化するための改善戦略を探求します。さらに、転送学習、敵対的トレーニング、ランダム化スムージングなどのモデル中心の手法も詳しく検討されています。最後に、モデルを予測不可能に対してより弾力的にするためのコスト効果の高い戦略として、アンサンブル技術、プルーニング、モデル修復などのトレーニング後の手法について議論します。この章は、既存のアプローチによるMLロバストネスの推定と達成における継続的な課題と限界を強調し、信頼できるAIシステムにとって重要なこの概念に関する今後の研究の洞察と方向性を提供します。