ChainLM: Leistung großer Sprachmodelle durch verbesserte Chain-of-Thought-Prompts stärken

Chain-of-Thought (CoT) Prompts können die Denkfähigkeiten großer Sprachmodelle (LLMs) verbessern und haben sich als primärer Ansatz zur Lösung komplexer Denkaufgaben etabliert. Vorhandene CoT-Syntheseansätze konzentrieren sich meist auf einfachere Denkaufgaben und führen somit zu qualitativ minderwertigen und inkonsistenten CoT-Prompts. Als Reaktion auf diese Herausforderung präsentieren wir eine empirische Untersuchung von CoT-Prompts und führen CoTGenius ein, ein neuartiges Framework, das für die automatische Generierung überlegener CoT-Prompts entwickelt wurde. CoTGenius basiert auf drei wesentlichen Evolutionsstrategien, nämlich komplizieren, diversifizieren und spezifizieren – ergänzt durch zwei Filtermechanismen: evolutionäre Erfolgsbewertung und Korrektheitsprüfung. Darüber hinaus verwenden wir CoTGenius, um einen umfangreichen CoT-Datensatz zu erstellen, und passen anschließend die Llama 2-Chat 7B- und 13B-Modelle an diesen Datensatz an. Das resultierende Modell nennen wir ChainLM. Um mit dem kumulativen Fehlerproblem in den Denkschritten umzugehen, schlagen wir eine schrittweise Debatte-Methode vor, bei der mehrere Debattierer jeden Denkschritt diskutieren, um die richtige Antwort zu finden. Umfassende Experimente zeigen, dass unsere ChainLM-Modelle eine verbesserte Kompetenz im Umgang mit einer Vielzahl von komplexen Denkproblemen im Vergleich zu bestehenden Modellen aufweisen. Darüber hinaus führen wir eine eingehende Analyse der Auswirkungen von Datenkategorien innerhalb von CoTGenius auf die Modellleistung durch. Wir veröffentlichen unseren Datensatz und Code unter https://github.com/RUCAIBox/ChainLM.