Ein geschachteltes Aufmerksamkeits-Neurales Hybridmodell zur Korrektur von grammatikalischen Fehlern

Systeme zur Korrektur von grammatikalischen Fehlern (GEC) versuchen sowohl globale Fehler in der Wortstellung und Verwendung als auch lokale Fehler in der Rechtschreibung und Flexion zu korrigieren. Aufbauend auf aktuellen Arbeiten zur neuronalen maschinellen Übersetzung schlagen wir ein neues hybrides neuronales Modell mit geschachtelten Aufmerksamkeits-Schichten für GEC vor. Experimente zeigen, dass das neue Modell Fehler beider Arten effektiv korrigieren kann, indem es Informationen auf Wort- und Zeichenebene integriert, und dass das Modell vorherige neuronale Modelle für GEC, gemessen am Standard-CoNLL-14-Benchmark-Datensatz, signifikant übertrifft. Weitere Analysen zeigen auch, dass die Überlegenheit des vorgeschlagenen Modells weitgehend dem Einsatz des geschachtelten Aufmerksamkeitsmechanismus zugeschrieben werden kann, der sich als besonders effektiv bei der Korrektur lokaler Fehler erwiesen hat, die kleine Änderungen in der Orthographie beinhalten.