Key points are not available for this paper at this time.
أدت مقدمة المحول 7 إلى تطوير نماذج اللغة الكبيرة (LLMs) مثل تمثيلات التشفير ثنائية الاتجاه من المحولات (BERT). ومع ذلك، فإن الأداء اللاحق لنماذج اللغة الكبيرة غالبًا ما يكون ضعيفًا للغات ذات الموارد المنخفضة (LRLs) مثل السواحلية بسبب حجم مجموعة البيانات الصغيرة الخاصة بها.
د studied Ndomba et al. (Sun,) هذا السؤال.