適応モデル選択

ほとんどのモデル選択手続きは、モデルのサイズの増加に対して固定ペナルティを使用します。これらの非適応選択手続きは、特定の状況でのみうまく機能します。たとえば、ベイズ情報量基準（BIC）は大きなペナルティを用いると「小さい」モデルにはうまく機能しますが、「大きい」モデルにはうまく機能しません。一方、赤池情報量基準（AIC）はその逆です。本記事では、一般化自由度の概念に基づくデータ適応型の複雑さペナルティを用いた適応モデル選択手続きを提案します。この提案された手続きは、非適応手続きのクラスの利点を組み合わせ、さまざまな状況でこの種の手続きの最良のパフォーマンスを近似します。このクラスには、AIC、BIC、マロウズのCp、リスクインフレ基準（RIC）など、多くの有名な手続きが含まれています。提案された手続きは、非パラメトリック回帰におけるウェーブレットしきい値処理と、最小二乗回帰における変数選択に適用されます。シミュレーション結果と漸近分析は、提案された手続きの有効性を支持しています。