Über asymptotische Normalität in stochastischer Approximation

Eine neue Methode, die einfacher ist als frühere Methoden von Chung (1954) und Sacks (1958), wird verwendet, um Theorem 2.2 im Folgenden zu beweisen, das auf einfache Weise alle bekannten Ergebnisse zur asymptotischen Normalität in verschiedenen Fällen der stochastischen Approximation impliziert. Zwei Anwendungsbeispiele betreffen Venters (1967) Erweiterung der RM-Methode und Fabians (1967) Modifikation des KW-Prozesses. Zuvor gab es, obwohl es keine Schwierigkeiten gab, eine der beiden Methoden zu übernehmen, Probleme bei den Beweisen in verschiedenen Fällen, die fast ab initio gemacht werden mussten oder übersprungen wurden, was eine Lücke ließ (siehe Venter (1967)). Der neue Beweis ähnelt dem von Chung, mit dem Unterschied, dass die grundlegende Rekursionsrelation verwendet wird, um die asymptotische charakteristische Funktion zu erhalten, anstatt die Grenzen aller Momente. Wir bemerken, dass Lemma 2.1, ein einfaches Korollar zu Chungs Lemma, nur verwendet wird, um Bedingung (2.2.4) zu erhalten, die schwächer ist als (2.2.3), wenn = 1, und die der üblichen Lindeberg-Bedingung entspricht. Beide Bedingungen (2.2.3) und (2.2.4) sind schwächer als die entsprechende Bedingung (3.4) in Sacks (1958). Im Folgenden sei (, S, P) ein Wahrscheinlichkeitsraum, die Beziehungen zwischen und die Konvergenz von Zufallsvariablen, Vektoren und Matrizen seien mit Wahrscheinlichkeit eins gemeint, es sei denn, es wird etwas anderes angegeben. Wir schreiben Xₙ L, wenn Xₙ asymptotisch L-verteilt ist, und Xₙ Yₙ für zwei Folgen von Zufallsvektoren, wenn für jedes L gilt, dass Xₙ L genau dann gilt, wenn Yₙ L gilt. Die Indikatorfunktion einer Menge A wird durch A bezeichnet, die Erwartung und bedingte Erwartung durch E und EF, jeweils. Rᵏ ist der k-dimensionale euklidische Raum, dessen Elemente als Spaltenvektoren betrachtet werden, R = R¹, R^k k ist der Raum aller reellen k x k Matrizen. Die Symbole R, Rᵏ, R^k k bezeichnen Mengen aller messbaren Transformationen von (, S) nach R, Rᵏ R^k k, jeweils. Die Einheitmatrix in R^k k wird durch I bezeichnet und | | ist die euklidische Norm. Mit hₙ einer Zahlenfolge stehen o(hₙ), O(hₙ), oᵤ(hₙ), Oᵤ(hₙ) für Folgen gₙ, Gₙ, qₙ, Qₙ, sagen wir, von Elementen in einer der Mengen R, Rᵏ, R^k k, so dass hₙ⁻¹ gₙ 0, | hₙ⁻¹ Gₙ| f für ein f R und alle n, hₙ⁻¹ qₙ O gleichmäßig auf einer Menge mit Wahrscheinlichkeit eins, | hₙ⁻¹ Qₙ| K für ein K R und alle n. In speziellen Fällen kann o(hₙ) konstant auf und als Folge mit Elementen in R, Rᵏ oder R^k k angesehen werden. Ähnlich in anderen Fällen. Für Chungs Lemma, auf das häufig verwiesen wird oder später ohne Bezugnahme verwendet wird, siehe Fabian ((1967), Lemma 4.2); beachten Sie, dass es auch für = 0 gilt.