ميتافروبتنج: تعلم كيفية تحسين الطلبات بشكل أفضل

تعتبر طريقة الطلب واحدة من التقدمات الحاسمة في معالجة اللغة الطبيعية القليلة اللقطات. تنتقل الأبحاث الحديثة حول الطلبات من الرموز المنفصلة المعتمدة على "الطلبات الصعبة" إلى "الطلبات الناعمة" المستمرة، التي تستخدم متجهات قابلة للتعلم كرموز طلب زائفة وتحقق أداءً أفضل. على الرغم من أنها تظهر آفاقًا واعدة، إلا أن هذه الطرق الخاصة بالطلبات الناعمة تعتمد بشكل كبير على التهيئة الجيدة لتكون فعالة. للأسف، يتطلب الحصول على تهيئة مثالية للطلبات الناعمة فهمًا لكيفية عمل نماذج اللغة الداخلية وتصميمًا معقدًا، وهو أمر ليس بالسهل ويجب أن يبدأ من الصفر لكل مهمة جديدة. لمعالجة هذه المشكلة، نقترح طريقة طلب ناعمة عامة تُدعى ميتافروبتنج، التي تعتمد على خوارزمية التعلم الفوقي المعروفة التي لا تعتمد على نموذج محدد للعثور تلقائيًا على تهيئة أفضل للطلب تسهل التكيف السريع مع مهام الطلب الجديدة. تُظهر التجارب الواسعة أن ميتافروبتنج تعالج مشكلة تهيئة الطلبات الناعمة وتجلب تحسينًا كبيرًا على أربعة مجموعات بيانات مختلفة (أكثر من 6 نقاط تحسين في الدقة لإعداد 1-shot)، مما يحقق أداءً جديدًا من الطراز الأول.