LLMの表現から脳の活動を予測する際の左右非対称性は、彼らの形式的な言語能力とともに現れる

要旨 人間と大規模言語モデル（LLM）が同じテキストを処理するとき、LLMの活性化は、たとえば機能的磁気共鳴画像法（fMRI）で測定された脳の活動と相関します。さらに、LLMのトレーニングが進むにつれて、その内部の活性化から脳の活動を予測する性能が右半球よりも左半球でより向上することが示されています。本研究の目的は、LLMが獲得する能力がこの左右非対称性の出現の背後に何があるのかを理解することです。さまざまなトレーニングチェックポイントでのOLMo-2 7B言語モデルを使用し、英語の参加者からのfMRIデータを用いて、脳の活動とモデルの予測との相関における左右非対称性の進化といくつかのベンチマークでの性能を比較します。非対称性はLLMの形式的な言語能力と共に出現することが観察されます。これらの能力は、最小限の対照ペア内で文法的に許可された文に対して許可されない文よりも高い確率を割り当てるモデルの能力と、適切に形成されたテキストを生成する能力の2つの方法で示されます。一方で、左右非対称性は算数やダイク言語課題、または世界知識や推論を含むテキストベースの課題の性能と一致しません。これらの結果を別のLLM（Pythia）と他の2つの言語（フランス語、中国語）に一般化します。我々の観察は、脳の予測における左右非対称性が形式的な言語能力の進展と一致することを示しています。