التخطيط باستخدام نماذج اللغة الكبيرة لتوليد الشفرات

تستخدم خطوط توليد الشفرات المعتمدة على نماذج اللغة الكبيرة الموجودة عادةً خوارزميات بحث الشعاع أو العينات خلال عملية فك الشيفرة. على الرغم من أن البرامج التي تولدها تحقق درجات عالية بناءً على المطابقة التوكنية، إلا أنها غالبًا ما تفشل في الترجمة أو تنتج مخرجات غير صحيحة. السبب الرئيسي هو أن خوارزميات فك شيفرة المحولات التقليدية قد لا تكون الخيار الأفضل لتوليد الشفرات. في هذا العمل، نقترح خوارزمية جديدة لفك شيفرة المحولات، وهي فك شيفرة المحولات الموجه بالتخطيط (PG-TD)، التي تستخدم خوارزمية تخطيط للقيام ببحث متقدم وتوجيه المحول لتوليد برامج أفضل. بشكل محدد، بدلاً من تحسين احتمال تسلسلات الشفرات المُنتجة ببساطة، يستخدم المحول مُخططًا لتوليد برامج مرشحة واختبارها على حالات اختبار عامة. وبالتالي، يمكن للمحول اتخاذ قرارات أكثر وعياً وتوليد توكنات ستؤدي في النهاية إلى برامج عالية الجودة. كما نقوم بتصميم آلية تشارك المعلومات بين المحول والمخطط لجعل خوارزميتنا فعّالة حسابيًا. نقوم بتقييم إطار عملنا تجريبيًا مع عدة نماذج لغوية كبيرة كعظام على معايير تحديات البرمجة العامة، مما يبين أن 1) يمكنه توليد برامج تحقق أداءً أعلى بشكل متسق مقارنةً بطرق الأساس المتنافسة؛ 2) يمكّن توليد الشفرات القابلة للتحكم، مثل الشفرات المختصرة والشفرات المعلّقة بشكل كبير عن طريق تحسين الهدف المعدل.