FedRAS: un marco de estrategia dual para el aprendizaje federado en dispositivos heterogéneos

El aprendizaje federado permite que varios clientes entren conjuntamente un modelo global utilizando sus respectivos conjuntos de datos locales. Si bien ofrece ventajas como la preservación de la privacidad y la utilización eficiente de los datos, su implementación práctica sigue estando limitada por las capacidades de computación heterogéneas de los clientes y ambientes operativos inestables. Para abordar estos desafíos, este trabajo propone FedRAS, un marco federado de estrategia dual que combina el entrenamiento parcial consciente de recursos con la auto-digestión guiada por atención. FedRAS asigna dinámicamente componentes del modelo entrenables según la disponibilidad de recursos del cliente y alinea las representaciones del modelo local y global a través de un mecanismo de auto-digestión, mejorando así el rendimiento del aprendizaje federado en dos dimensiones: colaboración entre clientes y alineación del modelo local-global. Los resultados experimentales en el conjunto de datos público de dermatoscopia ISIC 2019 muestran que, para el mismo sobrecosto de computación y comunicación, la estrategia de entrenamiento parcial en FedRAS ofrece una precisión significativamente mayor que varios métodos de entrenamiento parcial, mientras que su estrategia de auto-digestión también supera múltiples líneas de base de destilación del conocimiento en el equilibrio general entre precisión y sobrecosto.