Aprendendo a Classificar Pares de Texto Curto com Redes Neurais Convolucionais Profundas

Aprender uma função de similaridade entre pares de objetos está no cerne das abordagens de aprendizagem para classificação. Em tarefas de recuperação de informações, normalmente lidamos com pares de consulta-documento, em resposta a questões -- pares de pergunta-resposta. No entanto, antes que a aprendizagem possa ocorrer, tais pares precisam ser mapeados do espaço original de palavras simbólicas para algum espaço de características que codifique vários aspectos de sua relação, por exemplo, lexical, sintático e semântico. A engenharia de características é frequentemente uma tarefa laboriosa e pode requerer fontes de conhecimento externas que nem sempre estão disponíveis ou são difíceis de obter. Recentemente, as abordagens de aprendizado profundo ganharam muita atenção da comunidade de pesquisa e da indústria pela sua capacidade de aprender automaticamente a representação ótima de características para uma dada tarefa, enquanto afirmam ter desempenho de ponta em muitas tarefas de visão computacional, reconhecimento de fala e processamento de linguagem natural. Neste artigo, apresentamos uma arquitetura de rede neural convolucional para reclassificar pares de textos curtos, onde aprendemos a representação ideal de pares de texto e uma função de similaridade para relacioná-los de maneira supervisionada a partir dos dados de treinamento disponíveis. Nossa rede utiliza apenas palavras na entrada, exigindo, assim, um pré-processamento mínimo. Em particular, consideramos a tarefa de reclassificar pares de texto curto onde os elementos do par são frases. Testamos nosso sistema de aprendizado profundo em duas tarefas populares de recuperação do TREC: Resposta a Perguntas e Recuperação de Microblog. Nosso modelo demonstra um desempenho forte na primeira tarefa, superando sistemas anteriores de ponta por cerca de 3% em pontos absolutos tanto em MAP quanto em MRR e mostra resultados comparáveis na reclassificação de tweets, enquanto usufrui dos benefícios de não exigir engenharia manual de características e nenhum parser sintático adicional.