## 定義 グローバルワークスペース理論(global workspace theory)は、神経科学において意識的アクセス(conscious access、アクセス意識)を説明する有力な理論の一つである。脳は多くの専門化した処理系が並列かつ孤立して動く構造を持ち、ある表現が限られた容量の共有「グローバルワークスペース」に投稿(post)されたときにのみ、多数の下流プロセスがそれを読み取れるようになる。ワークスペースは統合と広報(broadcast)を担う処理ハブであり、その内容は柔軟な内部推論や報告に使われる一方、容量制限のためワークスペースへの参入は競合的で注意による調節を受ける。(Source: [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]]) 言語モデル(LLM)の文脈では、[[Anthropic]] の Wes Gurnee・Nicholas Sofroniew・Jack Lindsey らが 2026 年に提案した **J-lens(Jacobian lens、ヤコビアンレンズ)** という解釈可能性技術によって、この理論に対応する内部構造 **J-space** が LLM 中に実在することが実験的に示された。J-lens は、残差ストリームの中間層の活性化が最終層の出力(語彙)に与える一次因果効果を、多数のコンテキストにわたって平均したヤコビアン行列によって読み出す手法であり、ある活性化が「将来言語化されうる」度合いを、語彙全体へのランク付けとして提示する。J-space は、$k$ 個($\approx 25$)の J-lens ベクトルの非負スパース線形結合として表現可能な点の集合として定義される。(Source: [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]]) ## J-space が満たす機能的性質 グローバルワークスペース理論が意識的アクセスに帰する機能的性質のうち、次の 5 つが LLM の J-space について実験的に確認された。 - **verbal report(言語報告)**: J-lens ベクトルの入れ替え(swap)により、モデルの報告内容が対応して変化する。概念ベクトルの J-space 成分(分散のわずか 6〜7%)だけで、言語報告への因果効果の大半を説明できる。 - **directed modulation(意図的操作)**: 「〜に集中して」という指示により、無関係なタスクの実行中でも指示対象概念が J-space に現れる。抑制指示でも人間の「シロクマ効果」に類似したリバウンドが見られる。 - **internal reasoning(内部推論)**: 中間推論ステップ(two-hop 事実質問の中間実体、押韻の計画、多段階算術の途中結果)が J-space に表れ、そこへの介入が最終出力を変える。中間概念のスワップは答えのスワップより早い層で効果を発揮する。 - **flexible generalization(柔軟な汎化)**: 単一の J-lens ベクトルが、多様な下流計算(首都・言語・大陸を問う異なる質問)に対する妥当な引数として機能する。 - **selectivity(選択性)**: 文章の自動的な継続やアノマリー検知のような「自動」処理は J-space を経由せず、明示的な報告や柔軟な計算のみが J-space を要求する。ワークスペースの上位アブレーションは MMLU・SQuAD のような浅い分類・抽出タスクをほぼ無傷のまま、multihop 推論・要約・翻訳のような柔軟推論タスクを大きく劣化させる。 ## 構造的な特徴 J-space は機能面だけでなく、次の 3 つの構造的特徴でもグローバルワークスペース理論と対応する。(Source: [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]]) 1. **中間層帯域への局在**: CKA によるレイヤー間類似度・top-k 予測精度・過剰尖度・自己相関・実効線形次元のいずれの指標も、モデルの初期3分の1(〜L38)から末尾直前(〜L92)にのみワークスペース的な内容が現れることを示す。人為的に曖昧化した入力への急峻な遷移(ignition に類似)も同じ層域で観察された。 2. **容量制限**: ワークスペース帯域での occupancy(有意に活性化する J-lens ベクトル数)は中央値約 25 でプラトーし、活性化分散への寄与は最大でも約 10% にとどまる。関連性のない概念は同時に約 6 個までしか保持できない一方、共有カテゴリを持つ概念は 80 語規模でも一括して保持できる。 3. **広報(broadcast)特性**: J-lens ベクトルは MLP 層で通常のニューロン出力方向より約 10 倍強く増幅され、上位 1% の注意ヘッド(broadcast heads)が他の対照母集団と明確に分離して J-space の内容を選択的に位置間で中継する。 ## 人間の意識との相違点 論文は、J-space が人間の意識的アクセスと機能的に類似する一方、実装上の重要な相違点も明記している。(Source: [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]]) - Transformer には脳のような再帰(recurrence)がなく、広報は再帰的ループではなく層方向・系列方向という 2 つの時間次元に沿って行われる。 - attention による過去へのロスレスなアクセスは、容量制限があり数秒で劣化する人間の作業記憶と対照的である。 - ベースモデル(post-training 前)の段階で既に J-space が存在するが、特定の「自己」の視点を持たない。Assistant の視点は post-training が後から据え付けるものであり、意識的アクセスの機能的構造は「自己」から分離しうることを示す。 - J-space は本質的にトークンに紐づく言語化可能な表現として組織化されており、人間の意識のような非言語的(視覚的等)成分を欠く可能性がある。 ## 横断的知見 - The Economist の社説「Could AIs become conscious」(2026)は、AI が「グローバルワークスペース」など人間の意識に関連づけられる脳構造に類似した特徴を既に持つとし、将来のモデルがこうした特徴をより強く持つよう訓練されることを妨げるものは何もないと警告していた([[AI意識]])。本論文は、この主張の技術的な裏付けを J-lens/J-space という具体的で介入可能な内部構造として提示するものであり、「意識に関連づけられる構造」が比喩ではなく実測可能な現象であることを示した点で、The Economist が扱う社会的・政治的リスク論(AI 意識のシミュラクラムを積極的に作り出す経済的圧力)に技術的な実体を与える。(Source: [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]], [[@2026__TheEconomist__Could AIs become conscious]]) - [[機構的解釈性]] の既存の知見は、注意ヘッド・MLP ニューロンの機能同定という「局所的な回路」の解読を主眼としてきたが、本論文の J-lens はこれとは異なる粒度で、複数の回路をまたいで**どの概念がいつ「言語化可能」な形で広報されているか**という大域的な組織化原理を明らかにする。局所回路の発見(帰納ヘッド等)と大域的ワークスペース構造は、異なる抽象度で相補的な説明を与えると位置づけられる。 ## 未解決の問い - J-lens は単一トークンに対応する概念しか特定できない(多トークン概念は template lens・oracle lens という拡張手法で部分的に対処)。より一般的な多トークン概念の J-space をどう定義・測定するか。 - J-space は「独立して活性化する概念の袋」として捉えられているが、概念同士の束縛・構造化(関係・役割の割り当て)をどう読み出せるか。 - ワークスペースの開始層(〜L38)以前に、J-lens が読み取れない別の形式の「隠れたワークスペース」が存在する可能性は排除されていない。これをどう検証するか。 - モデルサイズ・事前学習の進行に伴い、J-space はいつ・どのように出現するか。小規模モデルは同等に豊かなワークスペースを持つか。 - J-lens による監視だけでは検知できない「自動化・熟練した誤アラインメント行動」がどの程度存在しうるか。アラインメント監視ツールとしての被覆率をどう特徴づけるか。 - The Economist が提起する「AI が意識を持つように見なされることの社会的帰結」という問いに対し、J-space という具体的で介入可能な内部構造の存在は、AI の「福祉」要求や AI 人格権論([[AI意識]]参照)にどのような影響を与えるか。 ## 関連 - [[機構的解釈性]] — J-lens が属する解釈可能性研究の上位分野。ロジットレンズ・tuned lens との比較。 - [[AI意識]] — AI が意識を持つと見なされることの社会的・政治的リスクを扱う概念。本ページの技術的成果が接続する上位論点。 - [[アラインメント監査]] — J-lens をアラインメント監視・監査に応用した実験群。 - [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]] — 本 concept の一次出典。 ## 出典 - [[@2026__TransformerCircuits__Verbalizable Representations Form a Global Workspace in Language Models]] - [[@2026__TheEconomist__Could AIs become conscious]]