コンテキストウィンドウ境界プロービング：展開されたLLMエージェントにおける認識的根拠を監査するためのフレームワーク

LLMエージェントの出力がそのコンテキストウィンドウに基づいているか、推測的外挿であるかを監査するためのフレームワークを提示します。核心的な洞察：モデルに与えられたもの（コンテキスト、取得された文書、ツールの出力）と生成しなければならないものの境界は、認識的状態の自然な真実のオラクルを提供します。コンテキストから答えられる質問は事実であり、それを超える外挿を必要とするものは推測的です。この境界での活性化に基づいて軽量のMLPをトレーニングすることで、コンテキストウィンドウに出力が入る前に根拠の状態を分類する展開可能な生成前監査ツールを得られます。境界データセットを用いて5つのモデルファミリー（Qwen2.5-7B、GPT-J 6B、Mistral-7B、Llama 3.2 3B、Qwen3.5-9B）に対する固定層スイープを行った結果、顕著なパターンが明らかになりました：特に大規模な強化学習で訓練されたより能力の高いモデルは、ネットワーク内で認識的状態をより早く、かつ幾何学的にクリーンに符号化しており、これにより監査性が向上しています。Qwen3.5-9B（RL訓練済み、数学ベンチマークで13倍大きなモデルと競合）は、層14-17で99.5%の固定線形プローブ精度を達成し、従来の訓練モデルでの微調整後の結果に匹敵しています。これは、能力と解釈可能性がトレードオフだという従来の仮定を覆します。境界信号が拡散している従来の訓練モデル（Qwen2.5ファミリー）では、熱力学的アプローチを特定します：デルタの大きさT(x) = 平均(||h₍+₁ - hₙ||)がQwen2.5-1.5Bで98.39%の精度（AUC 0.9786）を達成し、Qwen2.5-7Bで98.13%（AUC 0.9948）を達成しました。追加のパラメータはゼロで、トポロジーエントロピー法（0.92）に対して5.86-7.48ppのAUC改善を示しています。RL訓練モデルでは、幾何学はすでにクリーンであり、2MパラメータのMLPが十分です。SNLI矛盾検出に関する第二の実験（97.75%のMLP精度）が二重プローブ監査を完了させます。