تنقية المعرفة الهيكلية لكشف الأشياء

تنقية المعرفة (KD) هي نموذج تدريب معروف في الشبكات العصبية العميقة حيث يتم نقل المعرفة المكتسبة من نموذج معلم كبير إلى طالب صغير. لقد ثبت أن KD تقنية فعالة لتحسين أداء الطالب بشكل كبير في مهام مختلفة بما في ذلك كشف الأشياء. وبالتالي، تعتمد تقنيات KD في الغالب على الإرشاد على مستوى الميزات الوسيطة، والذي يتم تنفيذه عادةً عن طريق تقليل المسافة lp-norm بين تنشيطات المعلم والطالب أثناء التدريب. في هذه الورقة، نقترح بديلاً لمعيار lp-norm المستقل على مستوى البيكسل استنادًا إلى التشابه الهيكلي (SSIM). من خلال أخذ تباين إضافي وإشارات هيكلية في الاعتبار، يتم اعتبار أهمية الميزات، والارتباط، والاعتماد المكاني في صياغة الخسارة. تظهر التجارب الواسعة على MSCOCO فعالية طريقتنا عبر مخططات تدريب وهياكل مختلفة. تضيف طريقتنا فقط عبء حسابي قليل، ويسهل تنفيذها وفي الوقت نفسه تتفوق بشكل كبير على معايير lp-norm القياسية. علاوة على ذلك، يتم تجاوز طرق KD المعقدة المتطورة باستخدام آليات أخذ عينات قائمة على الانتباه، بما في ذلك زيادة قدرها +3.5 AP باستخدام Faster R-CNN R-50 مقارنة بنموذج عادي.