生成的モーメントマッチングネットワーク

データから深層生成モデルを学習する問題について考察します。単層パーセプトロンを介した単一のフィードフォワードパスによって独立したサンプルを生成する方法を定式化します。これは最近提案された生成対抗ネットワーク（Goodfellow et al., 2014）と同様です。しかし、生成対抗ネットワークをトレーニングするには、難しいミニマックスプログラムの慎重な最適化が必要です。代わりに、最大平均差（MMD）と呼ばれる統計的仮説検定の手法を利用し、データセットとモデルからのサンプル間の全順序の統計を一致させるものとして解釈できるシンプルな目的を導き出し、逆伝播によってトレーニング可能です。このアプローチの性能を向上させるために、生成ネットワークをオートエンコーダネットワークと組み合わせ、MMDを使用して生成するコードを学習し、それをデコードしてサンプルを生成します。これらの技術を組み合わせることで、MNISTおよびトロントフェイスデータベースでのベースラインアプローチと比較して、優れた生成モデルが得られることを示します。