स्पाइकिंग न्यूरल नेटवर्क्स के लिए मेम्ब्रेन पोटेंशियल बैच नॉर्मलाइजेशन

परंपरागत न्यूरल नेटवर्क (CNNs) के ऊर्जा-कुशल विकल्पों में से एक के रूप में, स्पाइकिंग न्यूरल नेटवर्क (SNNs) ने हाल ही में अधिक से अधिक रुचि प्राप्त की है। गहरे मॉडलों को प्रशिक्षित करने के लिए, SNNs में कुछ प्रभावी बैच नॉर्मलाइजेशन (BN) तकनीकों का प्रस्ताव दिया गया है। सभी ये BNs सामान्यतः CNNs में किए जाने वाले कन्वॉल्यूशन लेयर के बाद उपयोग करने के लिए सुझावित हैं। हालाँकि, स्पाइकिंग न्यूरॉन स्पैटियो-टेम्पोरल डायनामिक्स के साथ बहुत अधिक जटिल है। BN लेयर के बाद विनियमित डेटा प्रवाह अग्निशामक कार्य से पहले मेम्ब्रेन पोटेंशियल अपडेटिंग ऑपरेशन द्वारा फिर से बाधित होगा, अर्थात्, गैर-रेखीय सक्रियण। इसलिए, हम आग लगाने के कार्य से पहले मेम्ब्रेन पोटेंशियल को फिर से सामान्यीकृत करने के लिए एक अन्य BN लेयर जोड़ने का समर्थन करते हैं, जिसे MPBN कहा जाता है। MPBN के प्रेरित समय लागत को समाप्त करने के लिए, हम प्रशिक्षित MPBN को फायरिंग थ्रेशोल्ड में समर्पित करने के लिए एक प्रशिक्षण-इनफरेंस-डिकप्ल्ड री-पैरामीटराइजेशन तकनीक का भी प्रस्ताव करते हैं। री-पैरामीटराइजेशन तकनीक के साथ, MPBN इनफरेंस में कोई अतिरिक्त समय बोझ पेश नहीं करेगा। इसके अलावा, MPBN तत्व-वार रूप भी अपनाने में सक्षम है, जबकि कन्वॉल्यूशन लेयर के बाद ये BNs केवल चैनल-वार रूप का उपयोग कर सकते हैं। प्रयोगात्मक परिणाम दिखाते हैं कि प्रस्तावित MPBN दोनों लोकप्रिय नॉन-स्पाइकिंग स्थिर और न्यूरोमोर्फिक डेटा सेट पर अच्छी तरह प्रदर्शन करता है।