उच्च-आयामी परिवर्तनशील अनुमान के लिए प्रोजेक्टिव समाकलन अपडेट

.परिवर्तनशील अनुमान एक अनुमानित ढांचा है जो बेयसियन अनुमान के लिए है, जो पूर्ण पश्च की अपेक्षा के लिए एक सरल वितरित परामित्रों पर अयोजित करके भविष्यवाणियों में मानक अनिश्चितता में सुधार करने का प्रयास करता है। उन मॉडल विविधताओं को पकड़ना जो प्रशिक्षण डेटा के साथ सुसंगत रहती हैं, पैरामीटर संवेदनशीलता को कम करके अधिक मजबूत भविष्यवाणियों की अनुमति देती हैं। यह कार्य परिवर्तनशील अनुमान के लिए एक स्थिर बिंदु अनुकूलन को प्रस्तुत करता है जो तब लागू होता है जब हर संभव लॉग घनत्व को एक दिए गए आधार से कार्यों के रेखीय संयोजन के रूप में व्यक्त किया जा सके। इस प्रकार के मामलों में, अनुकूलक प्रोजेक्टिव समाकलन अपडेट के एक स्थिर बिंदु में बदल जाता है। जब आधार प्रत्येक पैरामीटर में एकल तपस्वियों को फैलाता है, तो संभव वितरण गॉसियन मीन-फील्ड होते हैं और प्रोजेक्टिव समाकलन अपडेट क्वासि-न्यूटन परिवर्तनशील बेयस (QNVB) उत्पन्न करते हैं। अन्य आधार और अपडेट भी संभव हैं। चूंकि ये अपडेट उच्च-आयामी समाकलन की आवश्यकता होती है, यह कार्य मीन-फील्ड वितरणों के लिए प्रभावी क्वासीरैंडम अनुक्रम के quadratures का प्रस्ताव देकर शुरू होता है। अनुक्रम का प्रत्येक दोहराव दो मूल्यांकन बिंदुओं को शामिल करता है जो सभी एकल तपस्वियों के कार्यों को सही ढंग से समाकलित करने के लिए एकत्र होते हैं और, यदि मीन-फील्ड गुणांक सममित होते हैं, तो सभी एकल घन भी। अधिक महत्वपूर्ण यह है कि छोटे उप अनुक्रमों पर औसत के परिणामों ने उच्च-आयामी बहुपदों के एक बड़े स्थान पर आवधिक सटीकता प्राप्त की। संगत परिवर्तनशील अपडेट के लिए चार हानि मूल्यांकन की आवश्यकता होती है जिनसे तिमाही (दूसरे आदेश नहीं) बैकप्रोपगेशन के साथ त्रुटि शर्तों को समाप्त किया जा सके। यह समाकलन तकनीक पहले स्थोकास्टिक अवरुद्ध मीन-फील्ड quadratures को प्रस्तावित करके प्रेरित की गई है, जो अन्य संदर्भों में उपयोगी हो सकती है। QNVB का एक PyTorch कार्यान्वयन मॉडल की अनिश्चितता पर बेहतर नियंत्रण की अनुमति देता है। प्रयोगों ने कई शिक्षण समस्याओं और संरचनाओं के लिए बेहतर सामान्यीकरण दिखाया। कुंजीशब्द: परिवर्तनशील अनुमान, गॉसियन मीन-फील्ड, हैसियन अनुमान, क्वासि-न्यूटन, स्पाइक-और-स्तंभ, समाकलन, घनाक्षीयता, हैडामर्ड आधार, MSC कोड: 62F30, 65C05, 65D32, 65K10