क्रम से क्रम सीखने के लिए क्लासिकल स्ट्रक्चर्ड प्रेडिक्शन लॉस

हाल ही में अनुक्रम स्तर पर न्यूरल अटेंशन मॉडलों को प्रशिक्षित करने पर बहुत सा काम हुआ है, या तो रिइन्फोर्समेंट लर्निंग-शैली विधियों का उपयोग करके या बीम के अनुकूलन द्वारा। इस पेपर में, हम क्लासिकल उद्देश्य कार्यात्मकताओं की एक श्रृंखला का सर्वेक्षण करते हैं जिन्हें संरचित भविष्यवाणी के लिए रैखिक मॉडलों को प्रशिक्षित करने के लिए व्यापक रूप से उपयोग किया गया है और उन्हें न्यूरल अनुक्रम से अनुक्रम मॉडलों पर लागू करते हैं। हमारे प्रयोग दर्शाते हैं कि ये हानियां आश्चर्यजनक रूप से अच्छी तरह से प्रदर्शन कर सकती हैं, बीम सर्च ऑप्टिमाइजेशन को सुधारते हुए एक समान सेटअप में। हम IWSLT'14 जर्मन-अंग्रेजी अनुवादन के साथ-साथ गिगावर्ड सारांश में नए सर्वोत्तम परिणाम भी रिपोर्ट करते हैं। बड़े WMT'14 अंग्रेजी-फ्रेंच अनुवादन कार्य पर, अनुक्रम स्तर पर प्रशिक्षण 41.5 BLEU प्राप्त करता है, जो सर्वोत्तम प्रदर्शन के बराबर है।