Key points are not available for this paper at this time.
تتسم الشبكات العصبية العميقة الحديثة (DNNs) بمئات الملايين من الاتصالات، وهي تتطلب موارد حاسوبية وذاكرة كثيفة، مما يجعل من الصعب نشرها على الأنظمة المدمجة ذات الموارد المحدودة من الأجهزة والميزانيات الطاقية. بينما تساعد الأجهزة المخصصة في الحساب، فإن الحصول على الأوزان من DRAM يكلف أكثر بعشرين مرة من عمليات ALU، ويسيطر على الطاقة المطلوبة. تجعَل 'الضغط العميق' المقترح سابقاً من الممكن ملء شبكات DNN الكبيرة (مثل AlexNet وVGGNet) بالكامل في SRAM على الشريحة. يتم تحقيق هذا الضغط من خلال تقليم الاتصالات الزائدة ووجود اتصالات متعددة تشارك نفس الوزن. نقترح محرك استنتاج فعال من حيث الطاقة (EIE) يقوم بأداء الاستنتاج على نموذج الشبكة المضغوط هذا ويسرع مضاعفة مصفوفة-متجه المتناثرة الناتجة بمشاركة الوزن. الانتقال من DRAM إلى SRAM يوفر لـ EIE توفيرًا في الطاقة بنسبة 120 مرة، واستغلال التشتت يوفر 10 مرات، ومشاركة الوزن توفر 8 مرات، وتخطي التنشيطات الصفرية من ReLU يوفر 3 مرات أخرى. تم تقييم EIE على تسعة معايير DNN، وهو أسرع بمعدل 189 مرة و13 مرة عند مقارنته بتنفيذات المعالج المركزي (CPU) ومعالج الرسوميات (GPU) لنفس DNN بدون ضغط. يمتلك EIE قدرة معالجة تبلغ 102 GOPS تعمل مباشرةً على شبكة مضغوطة، مما يت correspond مع 3 TOPS على شبكة غير مضغوطة، ويعالج طبقات FC من AlexNet بسرعة 1.88x10^4 إطار/ثانية مع استهلاك طاقة يبلغ فقط 600mW. إنه أكثر كفاءة في الطاقة بمعدل 24,000 مرة و3,400 مرة مقارنةً بـ CPU وGPU على التوالي. مقارنةً بـ DaDianNao، يوفر EIE من حيث أداء النقل وكفاءة الطاقة وكفاءة المساحة 2.9 مرة، 19 مرة و3 مرات أفضل.
درس هان وزملاؤه هذا السؤال (الأربعاء).
Synapse has enriched 4 closely related papers on similar clinical questions. Consider them for comparative context: