توليد العناوين المقيدة لغويًا المستندة إلى المحولات

تستكشف هذه الورقة متغيراً من طرق توليد العناوين التلقائية، حيث يُطلب من العنوان المولد أن يتضمن عبارة معينة مثل اسم شركة أو منتج. كانت الطرق السابقة التي تستخدم نماذج قائمة على المحولات تقوم بتوليد عنوان يتضمن العبارة المعطاة من خلال تزويد المشفر بمعلومات إضافية تتعلق بالعبارة المعطاة. ومع ذلك، لا يمكن لهذه الطرق دائماً تضمين العبارة في العنوان المولد. مستوحاة من الطرق السابقة المعتمدة على الشبكات العصبية المتكررة التي تولد تس sequences من الرموز في الاتجاهين العكسي والأمامي من العبارة المعطاة، نقترح طريقة بسيطة مبنية على المحولات تضمن تضمين العبارة المعطاة في العنوان المولد عالي الجودة. كما نعتبر استراتيجية جديدة لتوليد العناوين تستفيد من إمكانية التحكم في ترتيب التوليد للمحول. تظهر تجاربنا مع مجموعة أخبار اليابان أن طرقنا، التي تضمن تضمين العبارة في العنوان المولد، تحقق درجات ROUGE مقارنة بالطرق السابقة المستندة إلى المحولات. كما نوضح أن استراتيجيتنا في التوليد تؤدي بشكل أفضل من الاستراتيجيات السابقة.