HiLight: نموذج عالمي خفيف مدرك للهرمية مع تعلم تبايني محلي هرمي

تصنيف النصوص الهرمي (HTC) هو مهمة فرعية خاصة من تصنيف متعدد التسميات (MLC) يتم بناء تصنيفه كشجرة، ويتم تعيين كل عينة على الأقل بمسار واحد في الشجرة. تحتوي أحدث نماذج HTC على ثلاثة مكونات: مشفر نص، مشفر هيكل ورأس تصنيف متعدد التسميات. بالطبع، تم تصميم مشفر الهيكل لترميز هرمية التصنيف. ومع ذلك، فإن مشفر الهيكل لديه مشكلة قياسية. مع زيادة حجم التصنيف، تنمو المعلمات القابلة للتعلم للأعمال الحديثة في HTC بسرعة. التكرارية التنظيمية هي طريقة أخرى شائعة الاستخدام لتقديم المعلومات الهرمية ولكن لها مشكلة الانهيار وعادة ما يتم تخفيفها من خلال تعيين وزن صغير (أي 1e-6). في هذه الورقة، نقترح نموذج عالمي خفيف مدرك للهرمية مع تعلم تبايني محلي هرمي (HiLight)، وهو نموذج عالمي خفيف وفعال يتكون فقط من مشفر نص ورأس تصنيف متعدد التسميات. نقترح مهمة تعلم جديدة لتقديم المعلومات الهرمية، تسمى تعلم التباين المحلي الهرمي (HiLCL). تم إجراء تجارب موسعة على مجموعتين بيانات مرجعية لإظهار فعالية نموذجنا.