LB-BMBC: MHBiaffine-CNN para Capturar Pontuações de Span com BERT Injetado com Informação Lexical para NER Chinês

Resumo: Um volume substancial de pesquisa tem mostrado que a introdução de informações lexicais em tarefas de Reconhecimento de Entidade Nomeada (NER) em Chinês pode aumentar a informação semântica e de limite das palavras chinesas. No entanto, na maioria dos métodos, a introdução de informações lexicais ocorre no nível da arquitetura do modelo, o que não pode aproveitar plenamente a capacidade de aprendizado de léxico dos modelos pré-treinados. Portanto, propomos a integração contínua do conhecimento de Léxico externo na camada Transformer do BERT. Além disso, observamos que, no reconhecimento baseado em span, spans adjacentes têm relações espaciais especiais. Para capturar essa relação, estendemos o trabalho após Biaffine e usamos Redes Neurais Convolucionais (CNN) para tratar a matriz de pontuação como uma imagem, permitindo que interajamos com as relações espaciais dos spans. Nosso modelo proposto, LB-BMBC, foi testado em quatro conjuntos de dados NER chineses disponíveis publicamente: Resume, Weibo, OntoNotes v4 e MSRA. Em particular, durante os experimentos de ablação, descobrimos que a CNN pode melhorar significativamente o desempenho.