コントラストダイバージェンス学習のバイアスの制約

kステップコントラストダイバージェンス（CD）に基づく最適化は、制限付きボルツマン機械（RBM）を訓練する一般的な方法となっています。kステップCDは、ギブスサンプリングに依存する対数尤度勾配のバイアス推定量です。このバイアスに対する新しい上限を導出します。その大きさは、k（RBM内の変数の数）および単一の変数を変更することで生じるエネルギーの最大変化に依存します。最後の点は、RBMパラメータの絶対値に依存することを反映しています。バイアスの大きさは、モデル化された分布とギブスチェーンの初期分布との間の変動距離にも影響を受けます。