# 潜在推論 ## 定義 潜在推論(latent reasoning)とは、大規模言語モデル(LLM)の推論過程を、自然言語トークン列(連鎖思考、CoT)ではなく、モデル内部の連続的な表現(隠れ状態)の中で行わせる立場を指す。CoT が「言語空間」内で逐次的に推論ステップを言語化するのに対し、潜在推論は言語への変換を経由せずにモデル自身の表現力を使って推論することで、CoT が抱える制約(トークンごとに均一な計算量しか割けない、生成が自己回帰的で後戻りしにくい等)を回避しようとする研究方向である。(Source: [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]]) ## 未解決の問い - 潜在推論に対する事前学習(pretraining)への拡張は未検証。言語中心の事前学習を経た大規模モデル(Llama 3-8B 等)ほど潜在推論への移行が難しいという観察があるが、潜在空間そのものを最初から推論向けに事前学習した場合にどう変わるかは分かっていない。(Source: [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]]) - 複数回の forward パスを要する潜在推論(Coconut)の訓練・推論の並列化は未解決の効率課題として残る。 - 潜在推論が創発させる BFS 的な探索パターンは、明示的に探索アルゴリズムを教えた手法(Tree of Thoughts 等の explicit tree search)と比べて、どの条件で優劣が入れ替わるか体系的な比較が必要。 - 事前学習からの潜在推論(Geiping et al. 2025)と事後学習による潜在推論(Coconut)は、同等の計算予算でどちらがより高いベンチマーク性能・汎化性能に到達するか。 ## 未編纂の観察 - **CoT との対比**: CoT は「単語トークンの大半は推論の本質に寄与せず流暢さの維持に使われる」という非効率を抱えるのに対し、潜在推論(Coconut)は連続思考が複数の代替推論ステップを同時に符号化でき、明示的な指示なしに幅優先探索(BFS)的な推論パターンが創発する。ProsQA(計画立案を要する新規論理推論データセット)では、CoT が誤った経路にコミットした後に存在しない辺を幻覚するのに対し、潜在推論はより多くの選択肢を保持しながら段階的に絞り込み、より高い正解率を達成する。(Source: [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]]) - **効率とのトレードオフ**: GSM8k のような複雑な文脈理解を要するタスクでは潜在推論(Coconut)は CoT の絶対精度に届かないが、生成トークン数あたりの精度では CoT を上回るトレードオフを示す。ProntoQA・ProsQA のような合成論理タスクでは、潜在推論を用いない亜種(w/o thought)や iCoT でも高精度が出ることから、モデルの計算容量自体がボトルネックでないタスクも存在する。(Source: [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]]) - **教師信号の必要性**: 潜在推論を勾配降下だけで自動獲得させる(多段階カリキュラムなし)と no-CoT 相当の性能に留まり、言語 CoT データを用いた多段階カリキュラム(先頭から言語推論ステップを連続思考へ置換していく)による誘導が現状は不可欠である。(Source: [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]]) - [大規模事前学習による実現] [[@2025__arXiv__Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach]] は、既存モデルへの事後学習(Coconut のような多段階カリキュラム)ではなく、深さ方向に再帰するコアブロックをゼロから 3.5B パラメータ・800B トークン規模で事前学習することで潜在推論を実現し、CoT データを一切使わずにテスト時計算をスケールできることを示した(Source: [[@2025__arXiv__Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach]])。 - [アプローチの二極化] 潜在推論には、既存 fixed-depth モデルに CoT データで連続思考を後付け学習させる方向(Coconut、Hao et al. 2024)と、再帰深度アーキテクチャを最初から潜在推論向けに事前学習する方向(Geiping et al. 2025)の二つの系統があり、後者は教師信号としての言語 CoT データを一切必要としない点で前者と対照的である(Source: [[@2025__arXiv__Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach]])。 ## 関連 - [[Chain-of-Thought Prompting]] — 対比対象。言語空間での逐次推論。 - [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]] — Coconut(Chain of Continuous Thought)の提案論文。 - ソース: [[@2025__arXiv__Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach]] - 概念: [[再帰深度アーキテクチャ]] / [[テスト時計算スケーリング]] ## 出典 - [[@2025__COLM__Training Large Language Models to Reason in a Continuous Latent Space]] - [[@2025__arXiv__Scaling up Test-Time Compute with Latent Reasoning - A Recurrent Depth Approach]](再帰深度による事前学習ベースの潜在推論の実証)