Umfrage zu Halluzinationen in der natürlichen Sprachproduktion

Die natürliche Sprachproduktion (NLG) hat sich in den letzten Jahren exponentiell verbessert, dank der Entwicklung von sequenziellen Deep-Learning-Technologien wie transformer-basierten Sprachmodellen. Dieser Fortschritt hat zu einer flüssigeren und zusammenhängenderen NLG geführt, was sich positiv auf die Weiterentwicklungen bei nachgelagerten Aufgaben wie abstraktierenden Zusammenfassungen, Dialoggenerierung und Daten-zu-Text-Generierung auswirkt. Es ist jedoch auch offensichtlich, dass die auf Deep Learning basierende Generierung dazu neigt, unbeabsichtigte Texte zu halluzinieren, was die Systemleistung beeinträchtigt und in vielen realen Szenarien nicht den Erwartungen der Benutzer entspricht. Um dieses Problem anzugehen, wurden viele Studien zur Messung und Minderung halluzinierter Texte präsentiert, die jedoch noch nie umfassend überprüft wurden. In dieser Umfrage bieten wir daher einen breiten Überblick über den Forschungsgang und die Herausforderungen im Zusammenhang mit dem Halluzinationsproblem in der NLG. Die Umfrage ist in zwei Teile gegliedert: (1) ein allgemeiner Überblick über Metriken, Minderungstechniken und zukünftige Richtungen und (2) ein Überblick über den fortschrittsspezifischen Forschungsstand zu Halluzinationen in den folgenden nachgelagerten Aufgaben, nämlich abstraktierender Zusammenfassung, Dialoggenerierung, generativen Fragenbeantwortung, Daten-zu-Text-Generierung und maschinelle Übersetzung. Diese Umfrage soll die Zusammenarbeit unter Forschern bei der Bewältigung der Herausforderung halluzinierter Texte in der NLG erleichtern.