Anpassung von Deep RankNet für personalisierte Suche

RankNet ist eines der weit verbreiteten Ranking-Modelle für Websuchaufgaben. Allerdings ist die Anpassung eines generischen RankNet für personalisierte Suche wenig erforscht. In diesem Papier haben wir zunächst eine Vielzahl von RankNets mit unterschiedlicher Anzahl versteckter Schichten und Netzwerkstrukturen über ein zuvor trainiertes globales RankNet-Modell weiter trainiert und beobachtet, dass ein tiefes neuronales Netzwerk mit fünf versteckten Schichten die beste Leistung erbringt. Um die Leistung der Anpassung weiter zu verbessern, schlagen wir eine Reihe neuartiger Methoden vor, die in zwei Gruppen kategorisiert sind. In der ersten Gruppe werden drei Methoden vorgeschlagen, um die Nützlichkeit jeder Anpassungsinstanz angemessen zu bewerten und nur die informativsten Instanzen zu nutzen, um ein benutzerspezifisches RankNet-Modell anzupassen. Diese Bewertungen basieren auf der KL-Divergenz, der Klickentropie oder einer Heuristik, um die wichtigsten Klicks in Anpassungsabfragen zu ignorieren. In der zweiten Gruppe werden zwei Methoden vorgeschlagen, um das Training des neuronalen Netzwerks in RankNet zu regularisieren: eine dieser Methoden regularisiert die Fehler-Rückpropagation mittels eines abgeschnittenen Gradientansatzes, während die andere Methode die Tiefe der Rückpropagation bei der Anpassung des neuronalen Netzwerks beschränkt. Wir evaluieren unsere Ansätze empirisch mit einem großangelegten realen Datensatz. Die experimentellen Ergebnisse zeigen, dass unsere Methoden alle signifikante Verbesserungen im Vergleich zu einem starken Baseline-Ranking-System bieten, und der abgeschnittene Gradientansatz bietet die beste Leistung, deutlich besser als alle anderen.