現在の大規模言語モデル（LLM）は、歴史的なコーパスの膨大な統計的フィッティングに基づいて構築され、情報処理において前例のない効率を約束します。本論文は、この効率の背後に深刻なシステムリスクが潜んでいることを主張します。それは、このようなモデルが集団的な人間の認知を過去データの統計的平均に固定する傾向があることです。私たちは、LLMが流暢で権威ある、確率的に主流な出力を提供することによって、認知の多様性を系統的に抑圧し、深い思考のヒューリスティックなプロセスをショートサーキットさせ、最前線の知性に対して見えないレベルダウン効果を及ぼすメカニズムを説明するために、「認知平均逆転器」の概念的枠組みを導入します。これは技術的な不具合ではなく、フィッティングパラダイムの極端な成功の固有の結果です。私たちは、トランスフォーマーアーキテクチャに内在する確率的スムージングと人間のフィードバックからの強化学習の認識的剪定を分析することによって、現在の整合性技術が平凡性としての安全の逆説を内包していることを示します。さらに、アーカイブパワーというフーコー的視点から構成された反事実的歴史的ビネットを作成し、パラダイムシフト的なアイデアに対するメカニズムの構造的敵対性を示します。次に、本論文はこの認知インフラストラクチャが中央集権的権威によって捕らえられる論理的不可避性を追跡し、核エネルギーやインターネットのような技術の歴史的な軌跡との類似性を引き出します。最後に、私たちは人間-AI相互作用における認知的緊張を回復することを目的とした敵対的デザイン原則—デビルズアドボケイトモード、制御された認知ノイズ、反事実エンジン—を提案します。最終的な警告は、偏見やエラーに関するものではなく、中央集権的権力による最も強力な認知インフラストラクチャの静かな吸収についてです。この軌跡は、歴史的に馴染みのあるものとして論理的に必要なものです。
Jiacheng Yang（サット）がこの質問を研究しました。