Top-K Adaptativo em SGD para Aprendizado Distribuído Eficiente em Comunicação na Colaboração Multi-Robô

O gradiente estocástico distribuído (D-SGD) com compressão de gradiente tornou-se uma solução popular e eficiente em comunicação para acelerar procedimentos de otimização em sistemas de aprendizado distribuído, como sistemas multi-robô. Um método comumente utilizado para compressão de gradiente é a esparsificação Top-K, que esparsifica os gradientes por um grau fixo durante o treinamento do modelo. No entanto, tem havido uma falta de uma abordagem adaptativa com um tratamento e análise sistemáticos para ajustar o grau de esparsificação para maximizar o potencial de desempenho do modelo ou a velocidade de treinamento. Este artigo propõe um novo Top-K adaptativo no framework de Gradiente Estocástico Descendente que permite um grau adaptativo de esparsificação para cada passo de descida de gradiente, a fim de otimizar o desempenho de convergência equilibrando a compensação entre custo de comunicação e erro de convergência em relação à norma dos gradientes e ao orçamento de comunicação. Em primeiro lugar, um limite superior do erro de convergência é derivado para o esquema de esparsificação adaptativa e a função de perda. Em segundo lugar, consideramos as restrições do orçamento de comunicação e propomos uma formulação de otimização para minimizar o erro de convergência do modelo profundo sob tais restrições. Obtivemos um algoritmo de compressão aprimorado que melhora significativamente a acurácia do modelo sob as restrições de orçamento de comunicação dadas. Finalmente, realizamos experimentos numéricos em tarefas gerais de classificação de imagens usando os conjuntos de dados MNIST e CIFAR-10. Para as tarefas de colaboração multi-robô, escolhemos a tarefa de detecção de objetos no conjunto de dados PASCAL VOC. Os resultados demonstram que o algoritmo Top-K adaptativo proposto em SGD alcança uma taxa de convergência significativamente melhor em comparação com métodos de ponta, mesmo após considerar a compensação de erro.