Dubhe: フェデレーテッドラーニングクライアント選択における同型暗号を用いたデータの偏りの解消に向けて

フェデレーテッドラーニング（FL）は、クライアントが自らのローカルデータを用いて共同でモデルを訓練する分散型機械学習のパラダイムです。FLはクライアントのプライバシーを保証し、加法的同型暗号（HE）などの暗号技術によってそのセキュリティを強化できます。しかし、FLの効率は、クライアント間のデータ分布の不一致やグローバル分布の歪みによる統計的ヘテロジニティの影響を深刻に受ける可能性があります。本研究では、FLにおけるパフォーマンス低下の原因を数学的に示し、さまざまなデータセットにおけるFLのパフォーマンスを検討しました。統計的ヘテロジニティの問題に対処するために、Dubheというプラグイン可能なシステムレベルのクライアント選択方法を提案します。これにより、クライアントはHEの助けを借りて自身のプライバシーを保護しながら、訓練に積極的に参加できます。実験結果は、Dubheが分類精度において最適なグリーディ法と同等であり、暗号化および通信のオーバーヘッドはわずかなものであることを示しています。