协变量辅助筛选与估计

考虑线性模型 Y=X+z，其中 X=X₍, ₏ 且 z N (0, I₍)。该向量是未知的，但在大多数坐标为 0 的意义上是稀疏的。主要兴趣是将其非零坐标与零坐标分开（即变量选择）。受长记忆时间序列（Fan 和 Yao 非线性时间序列：非参数和参数方法（2003）Springer）和变点问题（Bhattacharya 在变点问题中（南哈德利，MA，1992）（1994）28–56 IMS）的例子启发，我们主要关注 Gram 矩阵 G=X'X 非稀疏但可以通过有限阶线性滤波器稀疏化的情况。我们关注信号既稀少又微弱的情况下，使得成功的变量选择非常具有挑战性，但仍然是可能的。我们通过一种称为协变量辅助筛选和估计（CASE）的新程序来解决这个问题。CASE 首先使用线性滤波将原始设置简化为一个新的回归模型，其中相应的 Gram（协方差）矩阵是稀疏的。新的协方差矩阵诱导一个稀疏图，这指导我们进行多变量筛选，而无需访问所有子模型。通过与信号稀疏性互动，该图使我们能够将原始问题分解为多个分开的低维子问题（如果我们只知道它们在哪里！）。线性滤波还引入了一种所谓的信息泄露问题，这可以通过新引入的修补技术克服。综合来看，这形成了 CASE，这是一个两阶段筛选和清理的程序（Fan 和 Song Ann. Statist. 38 (2010) 3567–3604；Wasserman 和 Roeder Ann. Statist. 37 (2009) 2178–2201），我们首先通过修补和筛选识别这些子模型的候选者，然后重新检查每个候选者以去除假阳性。对于任何变量选择程序，我们通过和的符号向量之间的最小最大 Hamming 距离来衡量性能。我们表明，在 Gram 矩阵非稀疏但可稀疏化的广泛情况下，CASE 实现了最优的收敛速度。该结果成功应用于长记忆时间序列和变点模型。