大規模言語モデルと基礎情報学

[[サイバネティクスの基礎情報学の関係性]]の文脈を踏まえつつ、**「現代の大規模言語モデル（[[LLM]]）の存在を前提とした」**、あるいはLLMの登場によってアップデートされつつある思想・理論をいくつか紹介します。これらは、「統計的な確率計算（機械情報）」と「意味理解（生命情報）」の境界線をどう捉えるか、という点で基礎情報学と強く響き合っています。 --- ### 1. 「確率的オウム」論（Stochastic Parrots） **提唱者:** エミリー・M・ベンダー、ティムニット・ゲブルら (2021) これは基礎情報学における「機械情報（パターン情報）と意味情報（生命情報）の峻別」を、現代のLLMに当てはめた最も有名な批判的理論です。 - 概要: LLMは膨大なテキストデータを学習し、確率的に「次に来るもっともらしい単語」をつなげているだけであり、そこに「意味（Meaning）」や「コミュニカティブな意図」は存在しないとする立場です。 - サイバネティクス・基礎情報学との接続: 基礎情報学が「コンピュータは意味を理解しない」としたのと同様に、この理論も「形式（Form）」と「意味（Meaning）」を厳密に分けます。LLMは**「意味の影（Shadow of meaning）」**を模倣しているだけで、現実世界への参照（グラウンディング）を持たない「閉じた系」であると論じます。 ### 2. 能動的推論（Active Inference）と自由エネルギー原理 **提唱者:** カール・フリストン (Karl Friston) サイバネティクスの「フィードバック」や「ホメオスタシス」を現代の神経科学・AIの視点で数理的に統合した理論です。 - 概要: 脳（および知性）は、外部世界からの感覚入力の「予測誤差（サプライズ）」を最小化するように、内部モデルを更新し続けるシステムであるという理論です。 - LLMとの接続: LLM（Next Token Prediction）は、まさに「次の単語の予測誤差を最小化する」マシンです。一部の研究者は、LLMが単なる統計マシンを超えて、**「世界モデル（World Model）」**を獲得しつつあるのではないかと議論しています。これは、「機械はオートポイエーシス（自律性）を持てるか？」というサイバネティクスの問いを、数理的な「予測」の観点から再定義する動きです。 ### 3. 「拡張された心」とハイブリッド知能（Extended Mind & Hybrid Intelligence） **背景:** アンディ・クラークらの認知科学哲学基礎情報学が「社会情報（人間と人間のコミュニケーション）」を重視するのに対し、こちらは**「人間と機械のカップリング」**を新たな認知システムとして捉えます。 - 概要: 「心」や「認知」は脳内だけで完結するのではなく、ノートやスマホ、そしてAIといった環境（外部ツール）にまで拡張されているという考え方です。 - LLMとの接続: LLMを「独立した知性」として見るのではなく、人間の思考プロセスに深く介入し、認知能力を外部化・拡張するための**「認知的な義肢（Cognitive Prosthesis）」**として捉えます。これは、第2次サイバネティクスにおける「構造的カップリング（環境とシステムが相互に影響し合いながら変化する）」という概念を、対話型AIとの共進化に適用した現代版と言えます。 ### 4. インフォスフィアと「再定着（Re-onutologization）」 **提唱者:** ルチアーノ・フロリディ（情報哲学）サイバネティクスが「生物と機械の類似性」を説いたのに対し、フロリディは「デジタル技術が環境そのものを変質させる」ことを論じます。 - 概要: 我々は「インフォスフィア（情報圏）」という新しい環境に生きており、そこではオンラインとオフラインの区別（Onlife）が消滅します。 - LLMとの接続: フロリディは、AIを「知能（Intelligence）なき行為主体（Agency）」と定義しました。LLMは意識を持たなくとも、タスクを遂行し、我々の環境（インフォスフィア）を書き換えてしまいます。これは基礎情報学的な「生命か機械か」という二元論を超え、**「生命ではないが、エージェンシー（行為能力）を持つ新しい存在」**としてAIを社会システムにどう組み込むかという、新しい統治（ガバナンス）の理論へつながります。 ### 5. アセンブリッジ理論（Assemblage Theory）的アプローチ **背景:** ドゥルーズ＝ガタリ等の現代思想の応用 - 概要: 主体を「人間」や「AI」という固定された個体として見るのではなく、人間・データ・アルゴリズム・ハードウェアが一時的に結びついた「配置（アセンブリッジ）」として知性を捉える考え方です。 - LLMとの接続: 「LLMが考えた」のではなく、「プロンプトを入力した人間＋LLMの重みパラメータ＋過去のWebデータ」という複合的なネットワーク全体が、ある種の創発的な出力を生み出したと考えます。これは、サイバネティクスの「システム論」をより動的で流動的なものとして捉え直す視点です。 --- ### まとめ：基礎情報学との対比 |**理論の方向性**|**基礎情報学・サイバネティクス的視点**|**現代のLLM前提の視点**| |---|---|---| |**情報の質**|**意味情報 vs 機械情報** (意味は生命だけの特権)|**Stochastic Parrots** (LLMは形式のみで意味を持たない)| |**システムの動作**|**オートポイエーシス** (自己準拠・閉鎖系)|**能動的推論** (予測誤差最小化・世界モデルの獲得)| |**人間との関係**|**観察者・社会システム** (人間主体の意味生成)|**拡張された心・ハイブリッド知能** (認知プロセスの外部化と共同生成)| |**存在論**|**生命 vs 機械**|**エージェンシーなき知能** (フロリディ的な第3の存在)| 結論として：現代の理論も、根本的には「計算（Computation）と理解（Understanding）のギャップ」という、ウィーナーや西垣通が問い続けたテーマを巡っています。ただし、LLMがあまりにも流暢に「意味があるかのように」振る舞うため、「もはや機械に意味がないとは言い切れない（あるいは、人間もまた確率的な機械に過ぎない）」という、よりラディカルな議論（強いAI論の復活）と、それを否定する議論が激しく衝突しているのが現状です。