Inferência Estatística Distribuída Eficiente em Comunicação

Apresentamos uma estrutura de verossimilhança substituta eficiente em comunicação (CSL) para resolver problemas de inferência estatística distribuída. CSL fornece uma verossimilhança substituta eficiente em comunicação para a verossimilhança global que pode ser usada para estimativa de baixa dimensão, estimativa regularizada de alta dimensão e inferência bayesiana. Para estimativa de baixa dimensão, CSL melhora provadamente os esquemas de média ingênua e facilita a construção de intervalos de confiança. Para estimativa regularizada de alta dimensão, CSL leva a um estimador minimax-óptimo com custo de comunicação controlado. Para inferência bayesiana, CSL pode ser usado para formar uma distribuição quasi-posterior eficiente em comunicação que converge para a verdadeira posterior. Este procedimento quasi-posterior melhora significativamente a eficiência computacional dos algoritmos de Cadeia de Markov Monte Carlo (MCMC), mesmo em um ambiente não distribuído. Apresentamos tanto uma análise teórica quanto experimentos para explorar as propriedades da aproximação CSL. Materiais suplementares para este artigo estão disponíveis online.