MCUNet: IoT उपकरणों पर टिनी डीप लर्निंग

माइक्रोकंट्रोलर यूनिट्स (MCU) पर आधारित छोटे IoT उपकरणों पर मशीन लर्निंग आकर्षक है लेकिन चुनौतीपूर्ण है: माइक्रोकंट्रोलर की मेमोरी मोबाइल फोन से भी 2-3 ऑर्डर के आकार में छोटी होती है। हम MCUNet को प्रस्तावित करते हैं, जो कुशल तंत्रिका वास्तुकला (TinyNAS) और हल्के निष्पादन इंजन (TinyEngine) को संयुक्त रूप से डिज़ाइन करता है, जो माइक्रोकंट्रोलर्स पर ImageNet-स्केल निष्पादन को सक्षम बनाता है। TinyNAS एक दो-चरणीय तंत्रिका वास्तुकला खोज दृष्टिकोण अपनाता है जो पहले संसाधन सीमाओं के अनुरूप खोज क्षेत्र को अनुकूलित करता है, फिर अनुकूलित खोज क्षेत्र में नेटवर्क वास्तुकला को विशिष्टता प्रदान करता है। TinyNAS कम खोज लागत के तहत विविध सीमाओं (जैसे, डिवाइस, विलंबता, ऊर्जा, मेमोरी) को स्वचालित रूप से संभाल सकता है। TinyNAS को TinyEngine के साथ सह-डिज़ाइन किया गया है, जो खोज क्षेत्र का विस्तार करने और एक बड़े मॉडल के अनुरूप बनाने के लिए एक मेमोरी-कुशल निष्पादन पुस्तकालय है। TinyEngine समग्र नेटवर्क टोपोलॉजी के अनुसार मेमोरी नियोजन को अनुकूलित करता है न कि स्तर-वार अनुकूलन, मेमोरी के उपयोग को 4.8x कम करता है, और TF-Lite Micro और CMSIS-NN की तुलना में निष्पादन को 1.7-3.3x तेज करता है। MCUNet पहली बार 70% से अधिक ImageNet शीर्ष1 सटीकता प्राप्त करता है एक ऑफ-द-सेल्फ व्यावसायिक माइक्रोकंट्रोलर पर, जो कि क्वांटाइज्ड MobileNetV2 और ResNet-18 की तुलना में 3.5x कम SRAM और 5.7x कम फ्लैश का उपयोग करता है। दृश्य और श्रव्य जागृति शब्द कार्यों पर, MCUNet अत्याधुनिक सटीकता प्राप्त करता है और MobileNetV2 और ProxylessNAS-आधारित समाधान की तुलना में 2.4-3.4x तेजी से चलता है, जिसमें 3.7-4.1x छोटे पीक SRAM होते हैं। हमारा अध्ययन सुझाव देता है कि IoT उपकरणों पर हमेशा-ऑन छोटे मशीन लर्निंग का युग आ गया है। कोड और मॉडल यहाँ पाए जा सकते हैं: https://tinyml.mit.edu.