# 知能爆発 [[I. J. Good]] が [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]](1965)で提唱した概念で、あらゆる知的活動で人間を凌駕する「ウルトラ知能機械」が、自分自身よりさらに優れた機械を設計できるようになった時点で、機械の知能が急速かつ加速的に向上していく過程を指す。原論文は「初のウルトラ知能機械は人類が行う必要のある最後の発明である——ただし、その機械が人間の制御下に留まるよう従順であるという条件のもとで」と論じる。[[Eliezer Yudkowsky]] は [[@2008__LessWrong__Recursive Self-Improvement]] でこの系譜を継承し、「速く(週〜時間単位)・局所的な」能力急増という「AI go FOOM」の形で定式化した。(Source: [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]], [[@2008__LessWrong__Recursive Self-Improvement]]) 知能爆発は「何が起こるか」という現象を指す語であり、その内部機構——AIが自身の認知アルゴリズムを書き換えるフィードバックループ——を指す語が [[Recursive Self-Improvement]] である。両者はしばしば同じ議論の中で不可分に扱われるが、前者は帰結(急速な能力向上)、後者は機構(再帰構造そのもの)に焦点を当てる点で異なる。 ## 横断的知見 - [[@2008__LessWrong__Recursive Self-Improvement]] は知能爆発が起こりうる**理論的根拠**(複雑な最適化連鎖を再帰で自己に畳み込むと横ばいか爆発かのどちらかになるはず、という微分方程式的議論)を提示するのに対し、[[@2026__Lil'Log__Harness Engineering for Self-Improvement]] は2026年時点の実務(ハーネス自己進化・ACE/MCE・進化的探索)がその**間接的な経路**(モデル重みの直接書き換えではなく訓練パイプラインとデプロイシステムの改善)をどこまで実現しつつあるかを報告する、理論と実務で18年の時間差を持つ2つのソースの対比になっている。(Source: [[@2008__LessWrong__Recursive Self-Improvement]], [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) - [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]](原論文)における知能爆発の議論は数段落にとどまり、機構的な詳細(どのような速度で・どのような条件下で生じるか)はほとんど論じられていない。この空白を、43年後の [[@2008__LessWrong__Recursive Self-Improvement]] が「複雑で段差のある最適化連鎖を再帰的に自己へ畳み込むと理論上は横ばいか爆発かのどちらかになるはずだ」というより踏み込んだ機構的議論で埋めている。すなわち Good が概念(何が起こりうるか)を定式化し、Yudkowsky が機構(なぜ・どう起こるか)を論じるという役割分担が、40年以上の時間差を挟んで成立している。(Source: [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]], [[@2008__LessWrong__Recursive Self-Improvement]]) - Good(1965)が想定したウルトラ知能機械の物理的基盤(超並列な人工神経回路網、マイクロ小型無線送受信機による接続)は、2020年代のハーネス工学的自己改善論([[@2026__Lil'Log__Harness Engineering for Self-Improvement]])が想定する経路(モデル重みの直接書き換えではなく訓練パイプライン・デプロイシステムの間接的改善)とは全く異なる。知能爆発という帰結の予測は共通するが、そこに至る具体的機構についての合意は現在に至るまで存在しない。(Source: [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]], [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) - Good と Yudkowsky がいずれも「知能爆発が起こるかどうか」「どういう機構で起こるか」を論じたのに対し、[[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] は知能爆発の発生自体をほぼ所与とした上で「その速度をガバナンスによってどう制御するか」という応答の側を論じる点で異なる位置づけを持つ。同文書は完全自動化されたAI研究開発が2030年に知能爆発をもたらすと想定した上で、国際的な取り決め(コンピュート宣言・訓練一時停止・[[AI国際検証レジーム]])によってこれを2040年まで先送りし、2030〜2035年は人間の能力範囲内、2035〜2040年はトップ専門家レベルで一時停止するという多段階の減速シナリオを提示する。知能爆発が「起こるか」ではなく「いつ・どの速度で起こることを許すか」を制御変数として扱う点が、Good/Yudkowskyの理論的議論との相違である。(Source: [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]], [[@2008__LessWrong__Recursive Self-Improvement]], [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]) ## 未解決の問い - Yudkowsky (2008) の「横ばいか爆発か」という二値的予測は、2026年時点で観測されているハーネスレベルの漸進的自己改善(Meta-Harness・Self-Harness・AHE 等、いずれも大きな飛躍ではなく着実な性能向上を報告)とどう整合するか。間接的経路は本当にこの二値性を回避しているのか、それとも観測がまだ「横ばい」局面の途中に過ぎないのか。 - Good(1965)は「20世紀中にウルトラ知能機械が構築される」と予測したが外れた。この予測の外れ方(過大評価だったのか、単に時間軸がずれただけなのか)が、後年のテイクオフ速度論争における時間軸の見積りにどう影響したかは追跡できていない。 - Good が条件として挙げた「機械が人間の制御下に留まるよう従順である」という要件は、現代のAIアライメント問題の早期の言及と読めるが、Good 自身はこの従順性をどう担保するかについて具体的機構を論じていない。この空白が後続の安全性研究でどう埋められたかは未調査。 - 知能爆発が「まともな制御計画無しに起これば誤整合AIによる乗っ取りか権力集中に帰結する」というリスク評価そのものは、Good/Yudkowskyの理論的議論では明示的に扱われない論点で、[[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] が新たに導入する視点である(→ [[権力集中リスク]])。理論(なぜ・どう起こるか)とガバナンス応答(どう制御するか)という2つの問題設定が、40年以上を隔てて別の文脈で発展してきたことが分かる。(Source: [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]) ## 関連 - [[Recursive Self-Improvement]] — 知能爆発を駆動する内部機構 - [[テイクオフ速度論争]] — 知能爆発の速度(ハード/ソフトテイクオフ)を巡る論争 - [[AI国際検証レジーム]] — 知能爆発の速度をガバナンスによって制御しようとする実践的提案 - [[I. J. Good]] — 概念の提唱者 - [[Eliezer Yudkowsky]] — 概念を「AI go FOOM」として定式化した論者 ## 出典 - [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]](1965、[[I. J. Good]]) - [[@2008__LessWrong__Recursive Self-Improvement]](2008-12-01、[[Eliezer Yudkowsky]]) - [[@2026__Lil'Log__Harness Engineering for Self-Improvement]] 内での言及(2026-07-04、[[Lilian Weng]]) - [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]](2026、[[AI Futures Project]])