Die Hellinger-Schranken für die Kullback–Leibler-Divergenz und die Bernstein-Norm

Zusammenfassung Die Kullback–Leibler-Divergenz, die Kullback–Leibler-Variation und die Bernstein-„Norm“ werden verwendet, um Unterschiede zwischen Wahrscheinlichkeitsverteilungen in Likelihood-Modellen wie nichtparametrischem Maximum-Likelihood und nichtparametrischem Bayes zu quantifizieren. Sie stehen in engem Zusammenhang mit der Hellinger-Distanz, die oft leichter zu handhaben ist. Daher ist es von Interesse, Bedingungen zu charakterisieren, unter denen die Hellinger-Distanz als obere Schranke für diese Maße dient. In diesem Artikel wird eine notwendige und hinreichende Bedingung für jedes der Diskrepanzmaße charakterisiert, um durch die Hellinger-Distanz beschränkt zu sein. Es berücksichtigt unbeschränkte Likelihood-Verhältnisse und verallgemeinert alle zuvor bekannten Ergebnisse. Anschließend wenden wir es an, um die Regularitätsbedingungen für den Sieb-Maximum-Likelihood-Schätzer zu entspannen.