Sobre técnicas de suavização para modelagem de linguagem natural baseada em bigramas

Os autores estudam vários problemas relacionados à suavização de probabilidades de bigramas para modelagem de linguagem natural: o tipo de interpolação, ou seja, linear vs. não linear, a estimativa ótima de parâmetros de interpolação e o uso de classes de equivalência de palavras (partes do discurso). Um método de interpolação não linear que resulta em melhorias significativas em relação à interpolação linear nos testes experimentais é proposto. Mostra-se que o método leave-one-out em combinação com o critério de máxima verossimilhança pode ser eficientemente utilizado para a estimativa ótima dos parâmetros de interpolação. Além disso, um procedimento automático de agrupamento é desenvolvido para encontrar classes de equivalência de palavras usando um critério de máxima verossimilhança. Resultados experimentais são apresentados para duas bases de dados de texto: uma base de dados em alemão com 100000 palavras e uma base de dados em inglês com 1,1 milhão de palavras.