大規模言語モデルに自己の信号から知識境界を表現させる教育

大規模言語モデル（LLM）は大きな成功を収めていますが、時折内容をでっち上げる、つまり幻覚を起こすことがあり、それが実用面での制限となっています。幻覚は、LLMが知識境界の不十分な訓練により無知を認めるのに苦労することから生じます。これは、LLMが知っている質問には答え、知らない質問には無知を認めるという知識境界を正確に表現できないという制約と呼べます。本論文では、LLMが自身の知識境界を認識し表現できるよう教育することを目的とし、知らない場合にでっち上げによる幻覚を減らせるようにします。我々はCoKEを提案し、まず一連の質問を通じて内部信頼度によるLLMの知識境界を探ることを行い、その探査結果を利用して知識境界の表現を引き出します。多数の実験により、CoKEはLLMが知識境界を表現し、既知の質問には答え、未知の質問は辞退することを助け、ドメイン内外での性能を大幅に向上させることを示しています。