ヘテロジニアスかつロングテールデータにおけるマルチレベル個別化フェデレート学習

フェデレート学習（FL）は、プライバシー重視の分散学習フレームワークを提供し、データ交換を必要とせずに個々のクライアントでのモデル訓練と中央集約を可能にします。しかしながら、FLの実装は、例えば自律走行車を含むモバイルアプリケーションにおける非独立同分布（non-i.i.d.）およびロングテールなクラス分布の影響を受けやすく、ローカルな訓練が最適ではない収束を引き起こすため、モデルの過学習につながります。本研究では、データのヘテロジニティがモデルバイアスに与える影響を探り、FLの階層的アーキテクチャを最大限に活用して各レベルでの計算資源をフルに活かす革新的な個別化FLフレームワークであるマルチレベル個別化フェデレート学習（MuPFL）を提案します。このフレームワークは、過学習を軽減し訓練を加速するための偏った活性化値ドロップアウト（BAVD）、ローカルモデルを洗練し一貫したグローバル集約を保証するための適応クラスタベースモデル更新（ACMU）、および共有知識に基づいてローカルデータの偏りに応じたモデルの分類と個別化を強化するための事前知識支援分類器微調整（PKCF）の3つの重要なモジュールを統合しています。画像分類やセマンティックセグメンテーションのための多様な実世界データセットに対する広範な実験により、MuPFLが極端な非独立同分布およびロングテール条件下でも最先端のベースラインを一貫して上回ることが検証され、精度が最大で7.39%向上し、訓練が最大80%加速されたことが示され、効率性と有効性の両面で重要な進展をもたらします。