हैरार्काल ध्यान नेटवर्क के साथ दस्तावेज़-स्तरीय न्यूरल मशीन अनुवाद

न्यूरल मशीन अनुवाद (NMT) को दस्तावेज़-स्तरीय संदर्भात्मक जानकारी शामिल करके सुधारा जा सकता है। इस उद्देश्य के लिए, हम एक हैरार्काल ध्यान मॉडल का प्रस्ताव करते हैं जो संदर्भ को संरचित और गतिशील तरीके से कैप्चर करता है। मॉडल को मूल NMT आर्किटेक्चर में एक और स्तर की अमूर्तता के रूप में एकीकृत किया गया है, जो NMT मॉडल की अपनी पिछले छिपे हुए राज्यों पर निर्भर करता है। प्रयोगों से पता चलता है कि हैरार्काल ध्यान एक मजबूत NMT बासेलाइन पर BLEU स्कोर को महत्वपूर्ण रूप से बढ़ाता है, जो संदर्भ-सचेत विधियों में सर्वोत्तम स्थिति में है, और कि एनकोडर और डिकोडर दोनों अलग-अलग तरीकों से संदर्भ से लाभान्वित होते हैं।