Estimation de densité par complexité stochastique

Les résultats de P. Hall et E.J. Hannan (1988) sur l'optimisation des estimateurs de densité d'histogramme avec des largeurs de classes égales par minimisation de la complexité stochastique sont étendus et affinés de deux manières distinctes. Comme première contribution, deux estimateurs d'histogramme généralisés sont construits. Le premier a des largeurs de classes inégales qui, avec le nombre de classes, sont déterminées par la minimisation de la complexité stochastique utilisant la programmation dynamique. L'autre estimateur est constitué d'un mélange d'estimateurs à largeurs de classes égales, chacun défini par la complexité stochastique associée. Comme principale contribution de ce travail, deux théorèmes sont prouvés, qui à eux deux étendent les théorèmes universels de codage à une large classe de densités générant des données. Le premier donne une borne supérieure asymptotique pour la redondance du code dans l'ordre de grandeur, atteinte avec un type spécial d'estimateur d'histogramme prédictif, ce qui affine une borne connexe. Le second théorème stipule que cette borne ne peut être améliorée par aucun code, quel qu'il soit.