Une comparaison de GCV et GML pour le choix du paramètre de lissage dans le problème de lissage par spline généralisée

Le prior partiellement impropre derrière le modèle de spline lissée est utilisé pour obtenir une généralisation de l'estimation de maximum de vraisemblance (GML) pour le paramètre de lissage. Cette estimation est ensuite comparée à l'estimation de validation croisée généralisée (GCV) tant analytiquement que par des méthodes de Monte Carlo. La comparaison est basée sur un critère d'erreur quadratique moyenne prédictive. Il est montré que si la fonction vraie, inconnue, qui est estimée est lisse au sens qui sera défini, alors l'estimation GML est insuffisamment lisse par rapport à l'estimation GCV et l'erreur quadratique moyenne prédictive utilisant l'estimation GML tend vers zéro à un rythme plus lent que l'erreur quadratique moyenne utilisant l'estimation GCV. Si la fonction vraie est "rugueuse", alors les estimations GCV et GML ont un comportement asymptotiquement similaire. Une expérience de Monte Carlo a été conçue pour voir si les résultats asymptotiques dans le cas lisse étaient évidents avec de petites tailles d'échantillons. Des résultats mitigés ont été obtenus pour n = 32, GCV était quelque peu meilleur que GML pour n = 64, et GCV était définitivement supérieur pour n = 128. Dans le cas n = 32, GCV était meilleur pour de plus petites ² et la comparaison était proche pour de plus grandes ². Les résultats théoriques s'étendent au modèle de lissage par spline généralisée, qui inclut l'estimation de fonctions données des valeurs bruitées de divers d'intégrales de celles-ci.