Bayessche Grammatikinferenz für Sprachmodellierung

Wir beschreiben einen korpusbasierten Inferenzalgorithmus für probabilistische kontextfreie Grammatiken. Der Algorithmus verwendet eine gierige heuristische Suche innerhalb eines bayesianischen Rahmens und einen Nachlauf mit dem Inside-Outside-Algorithmus. Wir vergleichen die Leistung unseres Algorithmus mit n-gram-modellen und dem Inside-Outside-Algorithmus in drei Sprachmodellierungsaufgaben. In zwei der Aufgaben wird der Trainingsdatensatz von einer probabilistischen kontextfreien Grammatik erzeugt, und in beiden Aufgaben übertrifft unser Algorithmus die anderen Techniken. Die dritte Aufgabe beinhaltet natürlich vorkommende Daten, und in dieser Aufgabe schneidet unser Algorithmus nicht so gut ab wie n-gram-Modelle, übertrifft jedoch den Inside-Outside-Algorithmus erheblich.