التحليل المقارن لطرق الضبط الدقيقة الفعالة المختلفة لنماذج اللغة الكبيرة (LLMs) في إعداد منخفض الموارد

في مجال نماذج اللغة الكبيرة (LLMs)، أظهر البحث arXiv:2305.16938 أن الضبط الدقيق للنموذج الكامل بعدد قليل من الأمثلة -- أي الضبط الدقيق التقليدي (Vanilla Fine Tuning, FT) والضبط الدقيق المعتمد على النمط (Pattern-Based Fine Tuning, PBFT) --، والتعلم في السياق (In-Context Learning, ICL) يتعممان بشكل مشابه على مجموعات بيانات خارج المجال (Out-Of-Domain, OOD)، لكنهما يختلفان من حيث التكيف مع المهام. ومع ذلك، فإن كلاهما يطرح تحديات، خاصة من حيث متطلبات الذاكرة. في هذه الورقة، نسعى لتعميق فهم استراتيجيات الضبط الدقيقة المختلفة لنماذج اللغة الكبيرة ونهدف إلى وضع العديد منها على نفس المنصة لمقارنة مفصلة مع الضبط الدقيق للنموذج الكامل على مجموعتين مختلفتين من البيانات. ولتحقيق ذلك، أجرينا سلسلة من التجارب، بدءًا بأساليب متقدمة مثل الضبط الدقيق التقليدي والضبط الدقيق المعتمد على النمط على نماذج ما قبل التدريب عبر مجموعتي البيانات COLA وMNLI. ثم استكشفنا الضبط الدقيق التكيفي وكفاءة محولات LoRA في إعداد عدد قليل من الأمثلة. وأخيرًا، قمنا أيضًا بمقارنة نهج بديل حاز على شعبية مؤخراً -- تقطير السياق (context distillation) -- مع الضبط الدقيق التقليدي وPBFT مع وبدون إعداد عدد قليل من الأمثلة. تشير نتائجنا إلى أن هذه الاستراتيجيات البديلة التي استكشفناها يمكن أن تظهر تعميماً خارج المجال مماثلاً لذلك الخاص بالضبط الدقيق التقليدي وPBFT. يظهر PBFT أداءً أقل من الضبط الدقيق التقليدي على بيانات خارج المجال، مما يؤكد الحاجة إلى محفزات فعّالة. علاوة على ذلك، تُظهر تجارب الضبط الدقيق التكيفي وLoRA أداءً مشابهًا أو أسوأ قليلاً من الضبط الدقيق التقليدي كما هو متوقع، نظرًا لأن الضبط الدقيق القياسي يشمل ضبط النموذج بأكمله. أخيرًا، تتفوق تجارب تقطير السياق لدينا على طرق الضبط الدقيقة القياسية. تؤكد هذه النتائج أن اختيار طريقة الضبط الدقيقة المناسبة يعتمد في النهاية على الموارد المتاحة (الذاكرة، الحوسبة، البيانات) وقابلية التكيف مع المهمة.