Isotonische Regression in allgemeinen Dimensionen

Wir untersuchen den Schätzer der kleinsten Quadrate der Regressionsfunktion über die Klasse der reellwertigen Funktionen auf 0, 1ᵈ, die in jeder Koordinate monoton sind. Für gleichmäßig beschränkte Signale und mit einem festen, kubischen Gitterdesign stellen wir fest, dass der Schätzer die minimax Rate der Ordnung n^-\{2/ (d+2), 1/d\} im empirischen L₂-Verlust erreicht, bis auf poly-logarithmische Faktoren. Darüber hinaus beweisen wir eine scharfe Orakelungleichung, die insbesondere zeigt, dass, wenn die wahre Regressionsfunktion stückweise konstant auf k Hyperrechen ist, der Schätzer der kleinsten Quadrate eine schnellere, adaptive Konvergenzrate von (k/n) ^ (1, 2/d) genießt, wiederum bis auf poly-logarithmische Faktoren. Frühere Ergebnisse beschränken sich auf den Fall d 2. Schließlich stellen wir entsprechende Schranken auf (die sogar im Fall d=2 neu sind) im herausfordernderen Zufallsdesign-Setting. Es gibt zwei überraschende Merkmale dieser Ergebnisse: Erstens zeigen sie, dass es möglich ist, dass ein globales Verfahren zur Minimierung des empirischen Risikos bis auf poly-logarithmische Faktoren optimal ist, selbst wenn das entsprechende Entropie-Integral für die Funktionklasse schnell divergiert; zweitens deuten sie darauf hin, dass die Anpassungsrate für formbeschränkte Schätzer strikt schlechter sein kann als die parametrische Rate.