Goat: Fein abgestimmtes LLaMA übertrifft GPT-4 bei arithmetischen Aufgaben

Wir stellen Goat vor, ein fein abgestimmtes LLaMA-Modell, das GPT-4 bei einer Reihe von arithmetischen Aufgaben deutlich übertrifft. Fein abgestimmt auf einem synthetisch generierten Datensatz erreicht Goat eine Spitzenleistung bei der BIG-bench-Teilaufgabe zur Arithmetik. Insbesondere erreicht das Zero-Shot Goat-7B die Genauigkeit, die mit dem Few-Shot PaLM-540B erzielt wird, oder übertrifft sie sogar. Überraschenderweise kann Goat durch überwachte Feinabstimmung eine nahezu perfekte Genauigkeit bei der Addition und Subtraktion großer Zahlen erreichen, was mit früheren vortrainierten Sprachmodellen wie Bloom, OPT, GPT-NeoX usw. fast unmöglich ist. Wir führen die außergewöhnliche Leistung von Goat auf die konsistente Tokenisierung von Zahlen durch LLaMA zurück. Um herausforderndere Aufgaben wie Multiplikation und Division großer Zahlen zu bewältigen, schlagen wir einen Ansatz vor, der Aufgaben basierend auf ihrer Lernbarkeit klassifiziert und anschließend nicht erlernbare Aufgaben, wie mehrstellige Multiplikation und Division, in eine Reihe von erlernbare Aufgaben zerlegt, indem grundlegende arithmetische Prinzipien genutzt werden. Wir untersuchen die Leistung unseres Modells umfassend und bieten eine umfassende Bewertung der Wirksamkeit unserer vorgeschlagenen Zerlegungsschritte. Darüber hinaus kann Goat-7B leicht mit LoRA auf einer 24-GB-VRAM-GPU trainiert werden, was die Reproduzierbarkeit für andere Forscher erleichtert. Wir veröffentlichen unser Modell, unseren Datensatz und das Python-Skript zur Datensatzgenerierung.