MA-CLAMP：面向参与者的掩蔽感知客户端自适应模型剪枝以应对联合学习支持的移动边缘计算中的慢设备

移动边缘系统中的联合学习面临一个关键挑战：如何高效训练模型，同时仍允许慢设备参与。许多现有方法要么忽略慢设备以加快训练，这损害了公平性；要么等待所有设备，这浪费了快速设备的计算能力和时间。CLAMP通过动态深度选择来解决这个问题，允许每个客户端根据其能力训练调整数量的模型层。然而，CLAMP的最小深度聚合创造了一个瓶颈。服务器仅聚合所有客户端训练的层，这意味着由快速设备训练的深层更新被忽视。这种策略使模型容量未被利用，并限制了收敛速度。我们提出了掩蔽感知的CLAMP，替代最小深度聚合为层级掩蔽感知聚合。MA-CLAMP独立地聚合每个模型层，仅使用训练该层的客户端，受制于确保稳定性的最小参与阈值。这种方法在保持CLAMP自适应深度选择和应对慢设备的同时，保留了来自能力较强客户端的深层更新。MA-CLAMP不需要对客户端训练进行更改。针对100个异构客户端在MNIST、Fashion-MNIST和CIFAR-10上的实验表明，MA-CLAMP在中等复杂任务上实现了更快的收敛，提高了计算和能源使用的资源效率，保持或提高了所有数据集的模型准确性，并增强了慢设备的参与率。MA-CLAMP为生产性联合学习系统提供了更有效的解决方案，其中模型质量、资源效率和公平客户端参与都是至关重要的。