生成的マルチホップ質問応答タスクの常識

読解力QAタスクは最近人気が高まっていますが、ほとんどの研究は事実探索型の抽出QAに焦点を当てています。私たちは、その代わりに、モデルが推論し、情報の断片を収集・統合して答えを生成することを要求する、より挑戦的なマルチホップ生成タスク（NarrativeQA）に焦点を当てます。この種の多段階推論は、しばしば暗黙の関係を理解することを必要とし、人間は外部の背景知識を通じてそれを解決します。最初に、私たちはマルチアテンション機構を用いて複数の推論を行い、ポインタ生成デコーダを使用して答えを合成する強力な生成ベースラインを提示します。このモデルは従来の生成モデルよりも大幅に優れた性能を示し、現在の最先端のスパン予測モデルと競争力があります。次に、点対称相互情報量および用語頻度に基づいたスコアリング機能を使用して、Con-ceptNetから基盤となるマルチホップ関係常識情報を選択する新しいシステムを紹介します。最後に、この抽出された常識情報を、選択的ゲートアテンション機構を使用して文脈ホップ間の推論のギャップを埋めるために効果的に活用します。これにより、モデルの性能が大幅に向上し（人間評価によっても確認）、タスクの新しい最先端を確立します。また、私たちの背景知識の強化が一般化可能であり、別のマルチホップ推論データセットであるQAngaroo-WikiHopでの性能向上を示すこともあります。