Regressão esparsa eficiente em comunicação

Desenvolvemos uma abordagem de comunicação eficiente para regressão esparsa distribuída no ambiente de alta dimensionalidade. A ideia principal é fazer a média dos estimadores de lasso desbiased ou desparsificado. Mostramos que a abordagem converge na mesma taxa que o lasso, desde que o conjunto de dados não seja dividido entre muitas máquinas, e estima consistentemente o suporte em condições mais fracas do que o lasso. Do lado computacional, propomos um novo algoritmo paralelo e eficiente em termos computacionais para calcular a covariância inversa aproximada necessária na abordagem de desvio, quando o conjunto de dados é dividido entre amostras. Além disso, estendemos a abordagem para modelos lineares generalizados.