نمذجة اللغة التمييزية باستخدام حقول عشوائية شرطية وخوارزمية بيرسيترون

تصف هذه الورقة نمذجة اللغة التمييزية لمهمة التعرف على الكلام ذو المفردات الكبيرة. نقارن بين طريقتين لتقدير المعلمات: خوارزمية بيرسيترون، وطريقة تعتمد على حقول عشوائية شرطية (CRFs). يتم ترميز النماذج كأوتوماتا نهائية محددة الوزن، ويتم تطبيقها عن طريق تقاطع الأوتوماتا مع شبكات الكلمات التي هي ناتج جهاز التعرف الأساسي. تمتاز خوارزمية بيرسيترون بميزه اختيار مجموعة ميزات صغيرة نسبيًا تلقائيًا في مجرد بضع تمريرات على بيانات التدريب. ومع ذلك، من خلال استخدام مجموعة الميزات الناتجة عن خوارزمية بيرسيترون (المبدوءة بأوزانها)، يوفر تدريب CRF تخفيضًا إضافيًا قدره 0.5% في معدل خطأ الكلمات، ليصل إجمالي التخفيض المطلق إلى 1.8% عن الخط الأساسي البالغ 39.2%.