ChatZero: Generación de Diálogo Multilingüe Sin Ejemplos a Través de un Lenguaje Pseudo-Objetivo

Aunque los modelos de lenguaje grandes (LLMs) muestran capacidades asombrosas, entre las diversas aplicaciones emocionantes descubiertas para los LLMs, algunas son deficientes en otros idiomas de pocos recursos. Además, la mayoría de los métodos existentes dependen de grandes corpus de diálogo y, por lo tanto, construir sistemas para la generación de diálogos en un escenario sin ejemplos sigue siendo un desafío considerable. Para abordar este desafío, proponemos un nuevo modelo de generación de diálogos sin ejemplos y de extremo a extremo, ChatZero, basado en el método de cambio de código multilingüe. Primero, construimos un lenguaje de cambio de código y un lenguaje pseudo-objetivo con marcadores de posición. Luego, para la transferencia semántica multilingüe, empleamos el aprendizaje contrastivo no supervisado para minimizar la brecha semántica del idioma de origen, el lenguaje de cambio de código y el lenguaje pseudo-objetivo, que son ejemplos mutuamente positivos en el alto espacio semántico dimensional. Experimentos en los conjuntos de datos multilingües DailyDialog y DSTC7-AVSD demuestran que ChatZero puede alcanzar más del 90\% del rendimiento original en el caso sin ejemplos en comparación con el aprendizaje supervisado y lograr un rendimiento de vanguardia en comparación con otras líneas base.