पूर्व प्रशिक्षित भाषा मॉडलों पर आधारित घनी पाठ पुनर्प्राप्ति: एक सर्वेक्षण

पाठ पुनर्प्राप्ति सूचना खोजने पर एक दीर्घकालिक शोध विषय है, जहाँ एक प्रणाली को उपयोगकर्ता की प्राकृतिक भाषा में प्रश्नों के लिए प्रासंगिक सूचना संसाधनों को वापस करने की आवश्यकता होती है। हीयुरिस्टिक-आधारित पुनर्प्राप्ति विधियों से लेकर शिक्षण-आधारित रैंकिंग कार्यों तक, अंतर्निहित पुनर्प्राप्ति मॉडल लगातार तकनीकी नवाचार के साथ विकसित होते रहे हैं। प्रभावी पुनर्प्राप्ति मॉडल बनाने के लिए, एक महत्वपूर्ण बिंदु यह है कि पाठ प्रतिनिधित्व को कैसे सीखा जाए और प्रासंगिकता मिलाने की मॉडलिंग कैसे की जाए। पूर्व प्रशिक्षित भाषा मॉडलों (PLM) की हालिया सफलता अधिक सक्षम पाठ-पुनर्प्राप्ति दृष्टिकोण विकसित करने की दिशा में मार्गदर्शन करती है, PLM की उत्कृष्ट मॉडलिंग क्षमता का उपयोग करके। शक्तिशाली PLM के साथ, हम छिपे हुए प्रतिनिधित्व स्थान में प्रश्नों और पाठों के अंशार्थक प्रतिनिधित्व को प्रभावी ढंग से सीख सकते हैं, और प्रासंगिकता मॉडलिंग के लिए घनात्मक वेक्टरों के बीच अंशार्थक मिलान कार्य को आगे बढ़ा सकते हैं। इस प्रकार की पुनर्प्राप्ति पद्धति को घनी पुनर्प्राप्ति कहा जाता है, क्योंकि यह पाठों का प्रतिनिधित्व करने के लिए घनात्मक वेक्टरों का उपयोग करती है। घनी पुनर्प्राप्ति पर तेजी से प्रगति को ध्यान में रखते हुए, यह सर्वेक्षण PLM-आधारित घनी पुनर्प्राप्ति पर हाल की प्रगति की व्यवस्थित समीक्षा करता है। घनी पुनर्प्राप्ति पर पिछले सर्वेक्षणों से भिन्न, हम चार प्रमुख पहलुओं के द्वारा संबंधित अध्ययनों को व्यवस्थित करने के लिए एक नया दृष्टिकोण अपनाते हैं, जिसमें आर्किटेक्चर, प्रशिक्षण, अनुक्रमण और एकीकरण शामिल हैं, और प्रत्येक पहलू के लिए मुख्यधारा की तकनीकों का Thoroughly संक्षेप करते हैं। हम इस विषय पर हाल की प्रगति को व्यापक रूप से एकत्र करते हैं, और 300+ संदर्भ पत्रों को शामिल करते हैं। अपने सर्वेक्षण का समर्थन करने के लिए, हम उपयोगी संसाधनों प्रदान करने के लिए एक वेबसाइट बनाते हैं, और घनी पुनर्प्राप्ति के लिए एक कोड संग्रहालय जारी करते हैं। यह सर्वेक्षण घनी पाठ पुनर्प्राप्ति के लिए प्रमुख प्रगति पर ध्यान केंद्रित करते हुए एक व्यापक, व्यावहारिक संदर्भ प्रदान करने का उद्देश्य रखता है।