Um Método de Rastreio de Gradiente Comprimido para Otimização Descentralizada com Convergência Linear

As técnicas de compressão de comunicação estão se tornando cada vez mais relevantes para resolver o problema de otimização descentralizada sob comunicação limitada, onde o objetivo global é minimizar a média das funções de custo locais em uma rede multiagente utilizando apenas computação local e comunicação ponto a ponto. Neste artigo, propomos um novo algoritmo de rastreamento de gradiente comprimido (C-GT) que combina a técnica de rastreamento de gradiente com compressão de comunicação. Em particular, o C-GT é compatível com uma classe geral de operadores de compressão que unifica tanto compressores imparciais quanto tendenciosos. Mostramos que o C-GT herda as vantagens dos algoritmos baseados em rastreamento de gradiente e alcança uma taxa de convergência linear para funções objetivo fortemente convexas e suaves. Exemplos numéricos complementam as descobertas teóricas e demonstram a eficiência e flexibilidade do algoritmo proposto.