एलएलएम में भ्रांतियों से निपटने के लिए बेंचमार्क और हस्तक्षेप बनाना

बड़े भाषाई मॉडल (एलएलएम) भ्रांति के प्रति संवेदनशील होते हैं, जिससे उन्हें पहचानने और रोकने के लिए व्यापक प्रयास शुरू हुआ। हाल के कार्यों में उत्पादन के दौरान मॉडल की गणना में हस्तक्षेप करके भ्रांतियों को कम करने का प्रयास किया गया है, विभिन्न सेटअप और हीयूरिस्टिक्स का उपयोग करते हुए। उन कार्यों में विभिन्न भ्रांति कारणों के बीच अलगाव की कमी है। इस कार्य में, हम पहले पहचानने और हस्तक्षेप विधियों के लिए बंद-अभ्यास और खुले-अभ्यास प्रश्न-उत्तर सेटिंग में मॉडल ज्ञान पर आधारित डेटासेट बनाने के लिए एक दृष्टिकोण प्रस्तुत करते हैं। फिर हम हस्तक्षेप के लिए विभिन्न विकल्पों के प्रभाव का वर्णन करते हैं, जैसे हस्तक्षेपित घटक (एमएलपी, ध्यान ब्लॉक, अवशिष्ट धारा, और विशिष्ट सिर), और हस्तक्षेप कितनी बार और कितनी मजबूती से करना है। हम पाते हैं कि हस्तक्षेप की सफलता घटक के अनुसार भिन्न होती है, कुछ घटक भाषा मॉडलिंग क्षमताओं के लिए हानिकारक होते हैं। अंततः, हम पाते हैं कि हस्तक्षेप पूर्व-भ्रांति स्टीयरिंग दिशा से लाभान्वित हो सकते हैं न कि पोस्ट-भ्रांति। कोड https://github.com/technion-cs-nlp/hallucination-mitigation पर उपलब्ध है।