CTGGAN: توليد نص قابل للتحكم باستخدام شبكة الخصوم التوليدية

يهدف توليد النص القابل للتحكم (CTG) إلى تعديل ناتج نموذج اللغة (LM) لتلبية قيود محددة. على سبيل المثال، في محادثة خدمة العملاء، يجب أن تكون ردود الوكيل مهدئة وتتناول عدم رضا المستخدم أو شكاواه. هذا يفرض متطلبات كبيرة على التحكم في ناتج نموذج اللغة. ومع ذلك، توجد عيوب بين الطرق التقليدية. إن تعزيز وتعديل نماذج اللغة تظهر ظاهرة "الهلاوس" ولا يمكن ضمان الالتزام الكامل بالقيود. تتطلب نماذج اللغة الشرطية (CLM)، التي تترجم رموز التحكم إلى تمثيلات LM أو الفضاء الكامن، تدريب نماذج اللغة المعدلة من الصفر ويحتاج الأمر إلى كمية كبيرة من مجموعات البيانات المخصصة. تستخدم طرق زمن فك الشيفرة قواعد بايزي لتعديل ناتج LM أو قيود النموذج كمزيج من دوال الطاقة وتحديث النتيجة في اتجاه الطاقة المنخفضة. تواجه كلا الطريقتين مشكلة كفاءة أخذ العينات. علاوة على ذلك، لا توجد طرق تأخذ في الاعتبار العلاقة بين أوزان القيود والسياقات، كما هو أساسي في التطبيقات الفعلية مثل سيناريوهات خدمة العملاء. للتخفيف من المشاكل المذكورة أعلاه، نقترح توليد نص قابل للتحكم باستخدام الشبكات التنافسية التوليدية (CTGGAN)، التي تستخدم نموذج لغة مع انحياز لوغيت كمولد لإنتاج نص مقيد وتستخدم المميز مع مجموعات أوزان قيود قابلة للتعلم لتقييم وتحديث التوليد. نقيم الطريقة في مهمة إكمال النص وسيناريو محادثات خدمة العملاء الصينية، وتظهر طريقتنا أداءً متفوقًا في مقاييس مثل PPL وDist-3. بالإضافة إلى ذلك، يظهر CTGGAN أيضًا فك شيفرة فعال مقارنة بأساليب أخرى.