SoftRankとガウス過程を用いたランキング学習

本論文では、スパースガウス過程に基づくサーストンモデルを使用した文書検索のためのランキング学習の問題に取り組みます。サーストンモデルは、与えられたクエリに対して各文書をスコア空間内の確率分布として表現します；これらのスコアに関する分布は自然に文書ランキングの分布を生み出します。しかし、一般的には、モデルを訓練するための観察されたランキングはありません；代わりに、訓練データセット内の各文書には特定の関連度レベルが評価されます：例えば「悪い」、「ふつう」、「良い」、または「優れた」。モデルの性能は、正規化割引累積ゲイン（NDCG）などの情報検索（IR）指標を使用して評価されます。最近、テイラーらは、サーストンモデルを使用してNDCGの平滑化されたバージョンの直接的な勾配最適化を可能にする手法SoftRankを提示しました。このアプローチでは、文書のスコアはニューラルネットワークの出力によって表現され、スコアにランダムノイズを加えることでスコア分布が人工的に生成されます。SoftRankメカニズムは一般的なものであり、異なるIR指標に適用可能で、異なる基盤モデルを利用できます。本論文では、確率的非線形回帰モデルであるガウス過程（GP）によって自然に提供されるスコアの不確実性を活用するためにSoftRankフレームワークを拡張します。また、スパースガウス過程技術を用いてモデルをさらに発展させ、性能と効率を向上させた上で、公開されているLETOR OHSUMEDデータセットでベースライン手法と競争力のある結果を示します。また、利用可能な不確実性情報が予測にどのように使用され、モデルの性能にどのように影響するかを探ります。