Key points are not available for this paper at this time.
أظهرت نماذج اللغة المعززة بالاسترجاع (RALMs) إمكانات كبيرة في تحسين وتوسيع ذاكرتها الداخلية من خلال استرجاع الأدلة من مصادر خارجية. ومع ذلك، ستواجه RALMs حتماً تعارضات معرفية عند دمج ذاكرتها الداخلية مع المصادر الخارجية. يمكن أن تحاصر تعارضات المعرفة RALMs في صراع على المعرفة، مما يحد من قابليتها للتطبيق العملي. في هذه الورقة، نركز على استكشاف وحل تعارضات المعرفة في RALMs. أولاً، نقدم إطار تقييم لقياس تعارضات المعرفة عبر أبعاد مختلفة. ثم نحقق في سلوك وتفضيل RALMs من المنظورين التاليين: (1) التعارضات بين الذاكرة الداخلية والمصادر الخارجية: نجد أن RALMs الأقوى تظهر تأثير دنينغ-كروغر، مفضلة بشكل مستمر ذاكرتها الداخلية الخاطئة حتى عندما تُقدَّم أدلة صحيحة. بالإضافة إلى ذلك، تظهر RALMs تحيز التوفر نحو المعرفة الشائعة؛ (2) التعارضات بين الأدلة الصادقة وغير ذات الصلة والمضللة: نكشف أن RALMs تتبع مبدأ حكم الأغلبية، حيث تميل إلى الوثوق بالأدلة التي تظهر بشكل أكثر تكراراً. علاوة على ذلك، نجد أن RALMs تظهر تحيز التأكيد، وتميل أكثر لاختيار الأدلة المتوافقة مع ذاكرتها الداخلية. لحل تحدي تعارضات المعرفة، نقترح طريقة تُسمى فك تشابك التعارض في الترميز التبايني (CD2) لمعايرة ثقة النموذج بشكل أفضل. تُظهر النتائج التجريبية أن CD2 يمكنها حل تعارضات المعرفة بفعالية في RALMs.
درس جين وآخرون (Thu,) هذا السؤال.