確率的生成分類器の分散型フェデレーテッド学習

フェデレーテッド学習は、プライベートデータの共有を必要とせずに異種ユーザーのネットワーク全体でグローバルモデルを構築することを目的とした、現実のアプリケーションでの関連性が高まっているパラダイムです。私たちは、ユーザーが中央サーバーに依存することなくグローバルモデルを更新するために直接協力する分散型アーキテクチャにおけるモデル学習に焦点を当てます。この文脈で、本稿はパラメトリック形式を持つ確率的生成分類器を共同で学習する新たなアプローチを提案します。このフレームワークは、一組のローカルノード上の通信ネットワークで構成され、それぞれのノードが独自のローカルデータとローカル更新ルールを持っています。この提案は、隣接ノードとローカル統計を共有することを含み、各ノードが隣接ノードの情報を集約し、自身のローカル分類器を反復的に学習し、徐々にグローバルモデルに収束します。広範な実験により、アルゴリズムがさまざまなネットワークトポロジー、ネットワークサイズ、ローカルデータセットサイズ、および極端な非独立同分布のデータ分布にわたって一貫してグローバルに競争力のあるモデルに収束することが示されました。