تقييم نماذج القائمة على المحولات المدربة مسبقًا في مهمة التعرف على الكيانات المسماة الدقيقة

يعد التعرف على الكيانات المسماة (NER) مهمة أساسية في معالجة اللغة الطبيعية (NLP) وما زال مجالًا نشطًا للبحث. في السنوات الأخيرة، أحدثت نماذج المحولات وخصوصًا نموذج BERT الذي تم تطويره في جوجل ثورة في مجال معالجة اللغة الطبيعية. على الرغم من أنه تم دراسة أداء الأساليب المعتمدة على المحولات مثل BERT في التعرف على الكيانات المسماة، إلا أنه لم تكن هناك دراسة بعد لمهمة التعرف على الكيانات المسماة الدقيقة (FG-NER). في هذه الورقة، نقارن بين ثلاثة نماذج قائمة على المحولات (BERT وRoBERTa وXLNet) واثنين من النماذج غير القائمة على المحولات (CRF وBiLSTM-CNN-CRF). علاوة على ذلك، نطبق كل نموذج على مجموعة متنوعة من المجالات المختلفة. نجد أن النماذج القائمة على المحولات تتفوق تدريجيًا على النماذج المدروسة غير القائمة على المحولات في معظم المجالات فيما يتعلق بنتيجة F1. علاوة على ذلك، نجد أن اختيار المجال أثر بشكل كبير على الأداء بغض النظر عن حجم البيانات المعنية أو النموذج المختار.