明示的クラスターバランシングを用いた効率的な教師なし視覚表現学習

自己教師あり学習は最近、モダリティ間および内での卓越した事前学習パラダイムとして浮上し、驚異的な結果を出しています。特に画像領域において、グループ（またはクラスタ）識別は最も成功した方法の一つです。しかし、これらのフレームワークは、トリビアルな解に収束するのを防ぐために、極端に不均衡なクラスタ割り当てに対処する必要があります。既存の研究は通常、バランスを促進するためにクラスタ割り当ての重み付けを変更するか、収束を防ぐオフライン操作（例えば、定期的な再クラスタリング）を行うことでこの問題を解決します。しかし前者は通常、大きなバッチサイズを必要とし、リソース要求が増加します。後者は大規模データセットに関してスケーラビリティの問題を引き起こします。本研究では、新しいクラスターバランシング手法を用いてこの問題に対処するフレームワークExCBを提案します。ExCBは、バッチ間でクラスタの相対的なサイズを推定し、その相対的なサイズに比例してクラスタ割り当てを調整することでバランスを取ります。これにより、従来の方法の大きなバッチサイズへの依存を克服し、完全にオンラインで動作し、したがって任意のデータセットにスケーラブルです。我々はこのアプローチを評価するために広範な実験を行い、ExCBがa) 前の研究に比べてリソース要求が大幅に削減され、最先端の結果を達成し、b) 完全にオンラインであり、したがって大規模データセットにスケーラブルであり、c) 非常に小さなバッチサイズでも安定し効果的であることを示します。