قارئو الانتباه المحصور لفهم النصوص

في هذه الورقة، ندرس مشكلة الإجابة على أسئلة نمط cloze على المستندات. نموذجنا، قارئ الانتباه المحصور (GA) 1، يدمج بنية متعددة القفزات مع آلية انتباه جديدة، تستند إلى التفاعلات المضاعفة بين تضمين الاستعلام والحالات المتوسطة لقارئ مستندات يعتمد على الشبكات العصبية المتكررة. وهذا يمكّن القارئ من بناء تمثيلات خاصة بالاستعلام من الرموز في المستند من أجل اختيار الإجابات بدقة. يحقق قارئ GA نتائج متقدمة في ثلاثة معايير لهذه المهمة - قصص أخبار CNN & Daily Mail وبيانات Who Did What. يتم توضيح فعالية التفاعل المضاعف من خلال دراسة إلغاء التأثير، ومن خلال المقارنة مع عوامل تركيبية بديلة لتنفيذ الانتباه المحصور.