Aprendizado Federado Hierárquico Cliente-Borda-Nuvem

O Aprendizado Federado é uma estrutura colaborativa de aprendizado de máquina para treinar um modelo de aprendizado profundo sem acessar os dados privados dos clientes. Trabalhos anteriores assumem um servidor central de parâmetros, seja na nuvem ou na borda. O servidor na nuvem pode acessar mais dados, mas com uma sobrecarga de comunicação excessiva e alta latência, enquanto o servidor na borda desfruta de comunicações mais eficientes com os clientes. Para combinar suas vantagens, propomos um sistema de Aprendizado Federado Hierárquico Cliente-Borda-Nuvem, apoiado por um algoritmo HierFAVG que permite que vários servidores de borda realizem agregação parcial do modelo. Dessa forma, o modelo pode ser treinado mais rapidamente e melhores compromissem entre comunicação e computação podem ser alcançados. Uma análise de convergência é fornecida para o HierFAVG e os efeitos de parâmetros chave também são investigados, levando a diretrizes de design qualitativas. Experimentos empíricos verificam a análise e demonstram os benefícios dessa arquitetura hierárquica em diferentes cenários de distribuição de dados. Em particular, mostra-se que, ao introduzir os servidores intermediários de borda, o tempo de treinamento do modelo e o consumo de energia dos dispositivos finais podem ser simultaneamente reduzidos em comparação ao Aprendizado Federado baseado em nuvem.