迈向可信的联邦学习

本文开发了一个全面框架，以解决联邦学习（FL）中三个关键的可信挑战：对拜占庭攻击的鲁棒性、公平性和隐私保护。为了提高系统对发送恶意信息以偏见系统性能的拜占庭攻击的防御能力，我们开发了一种双边范数筛选（TNBS）机制，该机制允许中央服务器裁剪具有最低 l 个范数和最高 h 个范数的梯度。TNBS 作为筛选工具，过滤掉那些梯度与诚实参与者相差较大的潜在恶意参与者。为了促进平等公平性，我们采用了 q-公平联邦学习（q-FFL）。此外，我们采用了基于差分隐私的方案，以防止本地客户端的原始数据被好奇方推断。针对不同场景，论文为所提出的框架提供了收敛保证。真实数据集上的实验结果表明，所提出的框架有效提高了鲁棒性和公平性，同时管理隐私与准确性之间的权衡。这项工作似乎是第一项实验和理论上解决可信联邦学习中的公平性、隐私和鲁棒性的研究。