نماذج اللغة لتصنيف النصوص: هل التعلم في السياق كافٍ؟

لقد أظهرت نماذج اللغة الأساسية الحديثة أداءً متفوقًا في العديد من مهام معالجة اللغات الطبيعية في بيئات الصفر والنتائج القليلة. إحدى مزايا هذه النماذج مقارنةً بالأساليب القياسية الأكثر اعتيادية القائمة على التخصيص هي القدرة على فهم التعليمات المكتوبة بلغة طبيعية (المطالبات)، مما يساعدها في التعميم بشكل أفضل على مهام ومجالات مختلفة دون الحاجة إلى بيانات تدريب محددة. وهذا يجعلها مناسبة لمعالجة مشكلات تصنيف النصوص في المجالات التي تحتوي على كميات محدودة من الحالات المشروحة. ومع ذلك، فإن الأبحاث الحالية محدودة من حيث النطاق وتفتقر إلى فهم كيفية مقارنة نماذج توليد النصوص المدمجة مع تقنيات المطالبات بأساليب تصنيف النصوص الأكثر رسوخًا مثل تخصيص نماذج اللغة المقيدة. في هذه الورقة، نعالج هذه الفجوة البحثية من خلال إجراء دراسة تقييمية واسعة النطاق لـ 16 مجموعة بيانات لتصنيف النصوص تغطي مشكلات ثنائية التصنيف، ومتعددة الفئات، ومتعددة العلامات. على وجه الخصوص، نقارن الأساليب القائمة على الصفر ونتائج قليلة من نماذج اللغة الكبيرة بتخصيص نماذج اللغة الأصغر. نقوم أيضًا بتحليل النتائج حسب المطالبة، ونوع التصنيف، والمجال، وعدد العلامات. بشكل عام، تظهر النتائج كيف أن تخصيص نماذج اللغة الأصغر والأكثر كفاءة لا يزال يمكن أن يتفوق على الأساليب القليلة من نماذج اللغة الأكبر، التي لا تزال تحتاج إلى تحسين عندما يتعلق الأمر بتصنيف النصوص.