AICとBICの強みは共有できるか？モデル識別と回帰推定の間の対立

従来の統計的推論アプローチは、モデル識別段階において推論の具体的な目標をほとんど考慮せずに、まず真のモデルまたは最良のモデルを特定することです。真のモデルの追求は最適な回帰推定にもつながるのでしょうか？モデル選択において、BICは真のモデルを選択する際に一貫性があることが広く知られており、AICは回帰関数の推定に関してミニマックスレート最適です。最近の有望な方向性は適応モデル選択であり、これはAICやBICとは対照的に、ペナルティ項がデータに依存します。適応モデル選択を支持する理論的および実証的な結果が得られているものの、AICとBICの強みを本当に共有できるかどうかはまだ明らかではありません。モデルの組み合わせや平均化は、モデル選択の不確実性を克服する手段としてますます注目を集めています。ベイズモデル平均化はミニマックス的な意味で回帰関数の推定に関して最適であるのでしょうか？これらの質問への答えは基本的に否定的であることを示します：いかなるモデル選択基準が一貫しているためには、推定のミニマックス収束率の点で回帰関数の推定において非最適に振る舞わなければならず、ベイズモデル平均化は回帰推定においてミニマックスレート最適ではありません。