구조적 출력 예측을 위한 조건부 제한 볼츠만 머신

조건부 제한 볼츠만 머신(CRBMs)은 최근 협업 필터링, 분류 및 모션 캡처 데이터 모델링을 포함한 다양한 문제에 적용된 풍부한 확률적 모델입니다. 비조건부 RBMs의 훈련에는 많은 진전이 있었지만, 이 알고리즘은 조건부 모델에는 적용할 수 없으며 구조적 출력 문제에 대한 조건부 RBMs의 훈련 및 예측 생성에 대한 작업은 거의 없습니다. 우리는 먼저 표준 대조 발산 기반 학습이 CRBMs 훈련에 적합하지 않을 수 있음을 주장합니다. 그런 다음 두 가지 유형의 구조적 출력 예측 문제를 식별하고 각 문제에 대한 개선된 학습 알고리즘을 제안합니다. 첫 번째 문제 유형은 출력 공간이 임의의 구조를 가지고 있지만 가능성 있는 출력 구성의 집합이 상대적으로 작은 경우로, 다중 레이블 분류에서와 같습니다. 두 번째 문제는 출력 공간이 임의로 구조화되어 있지만 출력 공간의 변동성이 훨씬 큰 경우로, 이미지 노이즈 제거나 픽셀 레이블링과 같습니다. 우리는 새로운 학습 알고리즘이 두 가지 문제 유형 모두에서 대조 발산보다 훨씬 더 잘 작동할 수 있음을 보여줍니다.