v2 誤植訂正(2026年5月21日):参考文献を標準的な形式に整形 — Bycroft(2023年12月)年を修正、Bricken et al.(24名の著者)およびCarter et al.(5名の著者)の完全な著者リストを追加、Vig(10. 18653/v1/P19-3007)およびActivation Atlas(10. 23915/distill. 00015)のDOIを追加。方法、結果、または主張に変更はありません。私は、水銀を紹介します。このオープンソースの可観測性レイヤーは、トランスフォーマー言語モデルの隠れ状態空間全体に最大100万のアドレス可能なセンサーセルを配置し、標準的なロジットプロセッサーフックを通じて活性化パターンをキャプチャし、1つの2 MBの自己完結型HTMLファイルでインタラクティブな3Dビジュアライゼーションを生成します。既存の解釈手法(スパースオートエンコーダー、辞書学習)は、通常、補助モデルのトレーニングとかなりのGPUリソースを必要とします。水銀は消費者ハードウェア(RTX 3060 12 GB 1台)で実行され、3.5分で完全な観測パスを完了します。私はqwen2.5: 7Bで水銀をデモして、10の多言語プロンプトにわたって14,912のアクティブなセンサーセルを特定し、944の異なる発火シグネチャを確認しました。データ収集前に設計された事前のローゼンブリッジトポロジーは、偶然が予測する1313に対して、18,113の見える共発火エッジを回収し、13.8倍の増強を示しています(p < 10^-50)。付随記録:Mercury-Viewer(10. 5281/zenodo. 20312290)、および今後の水銀発見とスケーリングのプレプリント。
ホ・イイン・チェン(水曜日)がこの質問を研究しました。