언어 수정 흐름: 확률적 흐름을 통한 확산 언어 생성의 발전

최근 작업에서는 확산 언어 모델을 기반으로 문장 속성(예: 감정) 및 구조(예: 구문 구조)를 제어하는 데 성공을 거두었습니다. 노이즈에서 고품질 샘플을 생성하기 위한 인상적인 성능을 이끄는 핵심 요소는 수천 번에 걸쳐 반복적으로 노이즈를 제거하는 것입니다. 유익하지만 노이즈에서 시작하고 학습 단계를 거치는 복잡성은 많은 자연어 처리(NLP) 실제 응용 프로그램에 대한 구현을 제한했습니다. 본 논문에서는 언어 수정 흐름(Language Rectified Flow)을 제안합니다. 우리의 방법은 표준 확률적 흐름 모델의 재구성에 기반합니다. 언어 수정 흐름은 소스 분포와 타겟 분포 간의 이동을 위한 (신경) 보통 미분 방정식 모델을 학습하여 생성 모델링과 도메인 전이에 통합적이고 효과적인 해결책을 제공합니다. 소스 분포에서, 우리 언어 수정 흐름은 빠른 시뮬레이션을 생성하고 추론 시간을 효과적으로 줄입니다. 세 가지 도전적인 세부 조정 작업과 여러 고품질 텍스트 편집에 대한 실험 결과, 우리의 방법은 일관되게 기준 모델을 초월하는 성과를 보여줍니다. 광범위한 실험과 제거 연구는 우리의 방법이 대부분의 NLP 작업에 대해 일반적이며 효과적이고 유익할 수 있음을 입증합니다.