Kontextbewusste aufmerksame multilevel Merger für die Erkennung benannter Entitäten

In der Ära der Informationsexplosion hat die Erkennung benannter Entitäten (NER) im Bereich der Verarbeitung natürlicher Sprache große Aufmerksamkeit erregt, da sie grundlegend für die Informationsgewinnung ist. Kürzlich haben Methoden der NER, die auf Repräsentationslernen basieren, z. B. Zeichen- und Wortembedding, vielversprechende Erkennungsergebnisse gezeigt. Allerdings berücksichtigen bestehende Modelle nur teilweise Merkmale, die aus Wörtern oder Zeichen abgeleitet sind, während sie es versäumen, semantische und syntaktische Informationen, z. B. Großschreibung, Beziehungen zwischen Wörtern, Schlüsselwörter und lexikalische Phrasen, aus multilevel Perspektiven zu integrieren. Intuitiv können multilevel Merkmale hilfreich sein, wenn es darum geht, benannte Entitäten aus komplexen Sätzen zu erkennen. In dieser Studie schlagen wir ein neuartiges aufmerksames multilevel Mergermodell (AMFF) für NER vor, das die multilevel Merkmale im aktuellen Kontext aus verschiedenen Perspektiven erfasst. Es besteht aus vier Komponenten, die jeweils die lokalen Zeichenebenen (CL), globalen Zeichenebenen (CG), lokalen Wortebenen (WL) und globalen Wortebenen (WG) Merkmale im aktuellen Kontext erfassen. Darüber hinaus definieren wir zusätzlich dokumentenebene Merkmale, die aus anderen Sätzen erstellt wurden, um das Repräsentationslernen des aktuellen Kontexts zu verbessern. Zu diesem Zweck führen wir ein neuartiges kontextbewusstes aufmerksames multilevel Mergermodell (CAMFF) auf der Grundlage von AMFF ein, um die dokumentenebene Merkmale aus allen vorherigen Eingaben vollständig zu nutzen. Die erhaltenen multilevel Merkmale werden dann fusioniert und in ein bidirektionales Long Short-Term Memory (BiLSTM)-bedingtes Random Field (CRF)-Netzwerk für die endgültige Sequenzlabeling eingespeist. Umfangreiche Experimente mit vier Benchmark-Datensätzen zeigen, dass unsere vorgeschlagenen AMFF- und CAMFF-Modelle eine Reihe von Methoden der Spitzenklasse übertreffen und die aus mehreren Ebenen gelernten Merkmale komplementär sind.