QDyLoRA: Quantisierte Dynamische Low-Rank Anpassung für effizientes Tuning großer Sprachmodelle

Das Feintuning großer Sprachmodelle erfordert enorme GPU-Speicher, was die Wahl zur Beschaffung größerer Modelle einschränkt. Während die quantisierte Version der Low-Rank-Anpassungstechnik, die als QLoRA bezeichnet wird, dieses Problem erheblich lindert, bleibt die Suche nach dem effizienten LoRA-Rang eine Herausforderung. Darüber hinaus wird QLoRA auf einem vordefinierten Rang trainiert und kann daher nicht für seine niedrigeren Ränge ohne weitere Feintuning-Schritte umkonfiguriert werden. Dieses Papier schlägt QDyLoRA - Quantisierte Dynamische Low-Rank Anpassung - als einen effizienten Quantisierungsansatz für dynamische Low-Rank-Anpassung vor. Angeregt durch Dynamische LoRA kann QDyLoRA LLMs effizient auf einer Reihe vordefinierter LoRA-Ränge feinjustieren. QDyLoRA ermöglicht das Feintuning von Falcon-40b für Ränge von 1 bis 64 auf einer einzelnen 32 GB V100-GPU durch eine Runde des Feintunings. Experimentelle Ergebnisse zeigen, dass QDyLoRA im Vergleich zu QLoRA wettbewerbsfähig ist und bei Verwendung seines optimalen Rangs besser abschneidet.