Modelos baseados na web para processamento de linguagem natural

Trabalhos anteriores demonstraram que contagens da web podem ser usadas para aproximar contagens de bigramas, sugerindo que as frequências baseadas na web devem ser úteis para uma ampla variedade de tarefas de Processamento de Linguagem Natural (NLP). No entanto, apenas um número limitado de tarefas foi testado até agora usando conjuntos de dados em escala web. O presente artigo supera essa limitação ao investigar sistematicamente o desempenho de modelos baseados na web para várias tarefas de NLP, abrangendo tanto sintaxe quanto semântica, tanto geração quanto análise, e uma gama mais ampla de n-grams e partes do discurso do que havia sido explorado anteriormente. Para a maioria de nossas tarefas, encontramos que modelos simples e não supervisionados têm um desempenho melhor quando as contagens de n-gramas são obtidas da web em vez de um grande corpo de texto. Em alguns casos, o desempenho pode ser ainda melhorado usando técnicas de backoff ou interpolação que combinam contagens da web e contagens de corpus. No entanto, modelos baseados na web não supervisionados geralmente não superam modelos supervisionados de ponta treinados em corpora menores. Argumentamos que modelos baseados na web devem, portanto, ser usados como uma linha de base, e não como uma alternativa, a modelos supervisionados padrão.