Théorie de l'apprentissage statistique et rasoir d'Occam : L'argument central

Résumé La théorie de l'apprentissage statistique est souvent associée au principe du rasoir d'Occam, qui recommande une préférence pour la simplicité dans les inférences inductives. Cet article distille l'argument central pour la simplicité obtenue à partir de la théorie de l'apprentissage statistique, fondé sur la garantie d'apprentissage centrale de la théorie pour la méthode de minimisation du risque empirique. Cet argument central « moyens-fins » est qu'une classe d'hypothèses ou un modèle inductif plus simple est meilleur car il possède de meilleures garanties d'apprentissage ; toutefois, ces garanties sont relatives au modèle et donc la poussée théorique vers la simplicité est vérifiée par nos connaissances antérieures.