迅速で実用的なニューラルアーキテクチャ検索

本論文では、自動ネットワーク設計のための迅速で実用的なニューラルアーキテクチャ検索（FPNAS）フレームワークを提案します。FPNASは、300M FLOPs未満で非常に効率的なネットワークを発見することを目指しています。従来のNAS手法とは異なり、我々のアプローチは、類似のブロックを繰り返し積み重ねるのではなく、ブロックの多様性を保証するために全体のネットワークアーキテクチャを探索します。我々は検索プロセスを二階最適化問題としてモデル化し、近似解を提案します。CIFAR-10において、我々のアプローチは、最新技術と同等の性能を持つネットワークを設計できる一方で、わずか20 GPU時間で桁違いに少ない計算資源を使用します。ImageNetおよびADE20Kデータセットでの実験結果は、探索したネットワークの転送可能性をさらに示しています。