낮은 차원 행렬 완성을 이용한 효율적인 최소 베이즈 위험 디코딩 알고리즘

최소 베이즈 위험(MBR) 디코딩은 텍스트 생성 작업에 널리 사용되는 강력한 디코딩 전략이지만, 쿼드릭 계산 복잡도로 인해 실제 응용이 제한됩니다. 본 논문에서는 행렬 완성 기술을 이용하여 MBR 디코딩을 근사하는 새로운 접근 방식을 제안하며, 기계 번역 작업에 초점을 맞춥니다. 우리는 MBR 디코딩을 행렬 완성 문제로 모델링하며, 후보 가설들과 의사 참조 번역 간의 효용 지표 점수가 낮은 차원의 행렬을 형성합니다. 먼저, 점수 행렬이 실제로 낮은 차원 구조를 가진다는 것을 실험적으로 보여줍니다. 그런 다음, 점수의 무작위 부분 집합만 계산하여 대체 최소 제곱(ALS) 알고리즘을 적용함으로써 행렬에서 누락된 항목을 효율적으로 복구하여 MBR 디코딩 프로세스의 빠른 근사를 가능하게 합니다. 기계 번역 작업에 대한 우리의 실험 결과는 제안된 방법이 일반적인 MBR 디코딩에 비해 1/16의 효용 지표 계산만 필요하면서도 WMT22 데이터셋(ende 및 enru)에서 COMET22로 측정한 동일한 번역 품질을 달성함을 보여줍니다. 우리는 또한 다른 근사 방법과 비교하여 방법을 벤치마킹하고, 품질 비교에서 이점을 보여줍니다.