FLASH: 同時異種性にわたる連合学習

連合学習（FL）の基本的な前提は、ローカルデータを交換することなく、多様なデータ所有者（クライアント）間でMLモデルをトレーニングすることです。これまでの大きな課題は、クライアントの異種性であり、これはデータ分布の変動だけでなく、データ品質や計算/通信のレイテンシからも生じる可能性があります。これらの多様で同時的な異種性の統合的な視点が重要です。例えば、低レイテンシのクライアントはデータ品質が悪いことがあり、その逆も然りです。本研究では、FLASH（同時異種性にわたる連合学習）を提案します。これは、クライアントのデータ品質、データ分布、レイテンシに関連する統計情報のトレードオフを通じて、広範な異種性の下で最新のFLフレームワークを上回る軽量で柔軟なクライアント選択アルゴリズムです。FLASHは、すべての異種性を統一的に扱う初めての方法です。これを実現するために、FLASHは文脈に応じたマルチアームバンディット（CMAB）を通じて学習のダイナミクスをモデル化し、最も有望なクライアントを動的に選択します。広範な実験を通じて、FLASHは、統一的アプローチのおかげで、最新のベースラインに対して重要かつ一貫した改善を達成し、絶対的な精度で最大10%の向上を示します。重要なことに、FLASHは、高度に異種的な設定を扱うように設計された連合集約手法をも上回り、それらと統合された際には性能が向上することも享受しています。