Aprendizado Federado Robusto contra Atos Byzantine

O aprendizado federado (FL) permite que múltiplos clientes treinem colaborativamente modelos de aprendizado de máquina sem revelar seus dados de treinamento privados. No FL convencional, o sistema segue a arquitetura assistida por servidor (FL assistido por servidor), onde o processo de treinamento é coordenado por um servidor central. No entanto, a estrutura do FL assistido por servidor sofre de baixa escalabilidade devido a um gargalo de comunicação no servidor e problemas de dependência de confiança. Para enfrentar esses desafios, uma arquitetura de aprendizado federado descentralizado (DFL) foi proposta para permitir que os clientes treinem modelos colaborativamente de forma sem servidor e peer-to-peer. No entanto, devido à sua natureza completamente descentralizada, o DFL é altamente vulnerável a ataques de envenenamento, onde clientes maliciosos podem manipular o sistema enviando modelos locais cuidadosamente elaborados para seus clientes vizinhos. Até o momento, apenas um número limitado de métodos DFL robustos contra ataques Byzantine foi proposto, a maioria dos quais é ineficiente em comunicação ou continua vulnerável a ataques de envenenamento avançados. Neste artigo, propomos um novo algoritmo chamado BALANCE (média robusta contra Byzantine através de similaridade local na descentralização) para se defender contra ataques de envenenamento no DFL. No BALANCE, cada cliente usa seu próprio modelo local como uma referência de similaridade para determinar se o modelo recebido é malicioso ou benigno. Estabelecemos a garantia teórica de convergência para o BALANCE sob ataques de envenenamento em configurações convexas fortes e não convexas. Além disso, a taxa de convergência do BALANCE sob ataques de envenenamento corresponde àquelas dos métodos de ponta em configurações livres de Byzantine. Experimentos extensivos também demonstram que o BALANCE supera os métodos DFL existentes e defende efetivamente contra ataques de envenenamento.