传统的集中式模型训练假设数据样本随时可用且可以不受限制地处理。相比之下,去中心化机器学习(DML)通过直接在分布式数据源上进行协作模型训练和推理来解决这一限制。从数据集中化到去中心化的转变有助于遵守数据法规,并通过减少对云服务器的依赖来提高系统的可扩展性。然而,模型个性化与泛化之间存在权衡:本地训练数据分布的微调牺牲了在与训练数据分布不同的测试数据分布上的模型泛化。为了改善这种权衡,我们提出了一个DML框架,该框架能够通过明智地在多个模型中选择一个模型来固有地简化模型个性化和泛化。我们开发了一个可扩展的模型选择器,并使用区块链实现模型共识。随后提出了个性化模型选择器用于测试时间适应。通过计算机模拟,我们展示了我们的方法不仅超越了竞争性个性化基准,而且对具有各种变化的新数据分布也能很好地泛化。
Du等人(周五)研究了这个问题。