إعادة التفكير في التدريب المسبق لـ ImageNet

نقدم نتائج تنافسية في الكشف عن الأشياء وتقسيم الكائنات على مجموعة بيانات COCO باستخدام نماذج قياسية تم تدريبها من التهيئة العشوائية. النتائج ليست أسوأ من نظيراتها التي تم تدريبها مسبقًا على ImageNet حتى عند استخدام المعلمات الفائقة لنظام الأساس (Mask R-CNN) التي تم تحسينها لضبط النماذج المدربة مسبقًا، مع الاستثناء الوحيد لزيادة عدد دورات التدريب حتى تتمكن النماذج التي تم تهيئتها عشوائيًا من التقارب. التدريب من التهيئة العشوائية قوي بشكل مدهش؛ نتائجنا تثبت صحتها حتى عند: (i) استخدام 10% فقط من بيانات التدريب، (ii) بالنسبة للنماذج الأعمق والأوسع، و (iii) للمهام والمقاييس المتعددة. تُظهر التجارب أن التدريب المسبق لـ ImageNet يسرع من التقارب في وقت مبكر من التدريب، ولكن لا يوفر بالضرورة تنظيمًا أو يحسن دقة الهدف النهائي. لدفع حدود التجربة، نظهر 50.9 AP في الكشف عن الكائنات في COCO دون استخدام أي بيانات خارجية - وهي نتيجة تتساوى مع أفضل نتائج مسابقة COCO 2017 التي استخدمت التدريب المسبق لـ ImageNet. هذه الملاحظات تتحدى الحكمة التقليدية حول التدريب المسبق لـ ImageNet للمهام المعتمدة ونتوقع أن تشجع هذه الاكتشافات الناس على إعادة التفكير في النموذج السائد الحالي لـ 'التدريب المسبق والتعديل الدقيق' في رؤية الكمبيوتر.