大規模推論モデルはいつ思考を省けるのか？推論における行動の分岐の機構的解析

大規模推論モデル（LRM）は複雑なタスクにおいて著しい性能向上を遂げているが、過度な思考傾向が非効率性をもたらすことがある。本研究は、強化学習（RL）で訓練されたLRMが思考を省くよう促された際の内部メカニズムを調査し、思考なし（NT）、明示的思考（ET）、暗示的思考（IT）の3つの異なる思考モードを明らかにした。思考停止の確信度、思考から出力生成への注意、入力セクションに対する注意の焦点の包括的分析を通じて、推論行動に影響を与える主要因を解明した。さらに、NTは出力長を短縮する代わりに精度を犠牲にし、ETおよびITは精度を維持しつつ応答長を短縮することを見出した。我々の結果は、RL最適化されたLRMに根本的な不整合が存在することを示し、信頼性のある効率性のために適応的な改善が必要であることを示唆している。