Investigación sobre la traducción automática neuronal mongol–chino basada en características lingüísticas implícitas y redes de deliberación

La traducción automática neuronal (NMT) de secuencia a secuencia ha logrado un gran éxito con muchos pares de idiomas. Sin embargo, su rendimiento sigue estando limitado en entornos de bajos recursos, como la traducción mongol–chino, debido a su fuerte dependencia de corpora paralelos a gran escala. Para abordar este problema, proponemos ILFDN-Transformer, un modelo de NMT mongol–chino que integra características lingüísticas implícitas y una red de deliberación para mejorar la calidad de la traducción en condiciones de recursos limitados. Específicamente, aprovechamos el modelo de lenguaje preentrenado BART para capturar representaciones semánticas profundas de las oraciones fuente y aplicamos la destilación del conocimiento para integrar las características lingüísticas implícitas resultantes en el codificador Transformer para proporcionar un soporte semántico mejorado. Durante la decodificación, introducimos un mecanismo de deliberación que guía el proceso de generación haciendo referencia al conocimiento lingüístico codificado en un modelo preentrenado multilingüe, mejorando así la fluidez y coherencia de las traducciones al idioma objetivo. Además, considerando las características del orden de las palabras flexibles del idioma mongol, proponemos un método de Codificación Posicional Mixta (MPE) que combina la codificación posicional absoluta con codificación dinámica basada en LSTM, permitiendo que el modelo se adapte mejor a las complejas variaciones sintácticas. Los resultados experimentales muestran que ILFDN-Transformer logra una mejora en la puntuación BLEU de 3.53 en comparación con el modelo Transformer base, demostrando plenamente la efectividad de nuestro método propuesto.