Key points are not available for this paper at this time.
يعتبر تعديل التعليمات أمرًا حاسمًا لنماذج اللغة الكبيرة (LLMs) لتحقيق قدرة أفضل على اتباع التعليمات والتكيف مع المهام، ولكن نجاحه يعتمد بشكل كبير على جودة بيانات التدريب. تركز العديد من الأساليب الحديثة على تحسين جودة البيانات ولكن غالبًا ما تتجاهل توافق البيانات مع نموذج الطالب الذي يتم تعديله. تقدم هذه الورقة مفهوم تعديل الانعكاس الانتقائي، وهو نموذج جديد يتعاون بين انعكاس المعلم LLM وتأملاته لتحسين جودة البيانات الموجودة مع قدرة نموذج الطالب LLM على اختيار البيانات، من أجل تحسين بيانات تعديل التعليمات الموجودة تلقائيًا. تنتج هذه التعاونات بين المعلم والطالب أزواج تعليمية متوافقة عالية الجودة، مما يؤدي إلى تعديل تعليمات فعال من حيث العينة ونماذج لغة كبيرة ذات أداء متفوق. يعد تعديل الانعكاس الانتقائي تحسينًا وتوليفًا للبيانات يعزز عادةً من تعديل نماذج اللغة الكبيرة وتحسين الذات دون جمع بيانات جديدة. نطبق طريقتنا على بيانات Alpaca وWizardLM ونحقق نماذج 7B و13B قوية للغاية وأعلى مستوى.
درس لي وآخرون (Mon،) هذا السؤال.