تحليل فضاء التصنيف، التنسيق والتمييز: إعادة التفكير في كيفية استجابة ومعالجة نماذج اللغة الكبيرة من خلال التعلم في السياق

ظهر التعلم في السياق (ICL) كقدرة قوية جنبًا إلى جنب مع تطوير نماذج اللغة الكبيرة المscaled. من خلال إرشاد نماذج اللغة الكبيرة باستخدام أمثلة توضيحية قليلة، يمكّن ICL هذه النماذج من أداء مجموعة واسعة من المهام دون تحديث ملايين المعلمات. ومع ذلك، لم يتم التحقيق بدقة في المساهمات الدقيقة للأمثلة نحو تحسين أداء المهمة النهائية في الدراسات التحليلية الأخيرة. في هذه الورقة، نقوم بتفكيك الأداء العام لـ ICL إلى ثلاثة أبعاد: فضاء التصنيف، التنسيق، والتمييز، ونقيم أربعة نماذج لغة كبيرة ذات أغراض عامة عبر مجموعة متنوعة من المهام. بشكل مفاجئ، نجد أن الأمثلة لها تأثير ضئيل على تحفيز المعرفة التمييزية لنماذج اللغة. ومع ذلك، يظهر ICL كفاءة كبيرة في تنظيم فضاء التصنيف والتنسيق مما يساعد نماذج اللغة على الاستجابة بكلمات التصنيف المرغوبة. نوضح بعد ذلك أن هذه القدرة تعمل بشكل مشابه للإرشادات المفصلة التي يجب على نماذج اللغة اتباعها. نقدم أيضاً تحليلًا عميقًا لآلية الاسترجاع المساعدة في ICL ونجد أن استرجاع أمثلة مماثلة دلاليًا يزيد بشكل ملحوظ من قدرة التمييز للنموذج.