# テイクオフ速度論争 AIが人間レベルの知能を超えていく過程が、数週間〜数時間という「速い(ハード)テイクオフ」になるか、数年〜数十年かけて緩やかに進行する「遅い(ソフト)テイクオフ」になるかを巡る、AI安全性コミュニティの中心的な論争。[[Eliezer Yudkowsky]] は [[@2008__LessWrong__Recursive Self-Improvement]] で、複雑で段差のある(cascade的)最適化連鎖を再帰的に自己へ畳み込むと理論上は「横ばいか爆発かのどちらか」になるはずであり、ソフトテイクオフが成立するには「正確に都合の良い収穫逓減則」という極めて狭い条件(soft takeoff keyhole)が必要になると論じ、観測された歴史的傾向(自然選択→人類知能への遷移は線形/加速、人類知能→科学技術への遷移は指数的)からすればその都合の良い法則は考えにくいと主張した。(Source: [[@2008__LessWrong__Recursive Self-Improvement]]) この論証は [[Robin Hanson]] との一連の議論(いわゆる "FOOM debate")の一部を成す。Yudkowsky によれば、反論の多くは「速さ」の部分を問題視するが、Hanson は「局所性」——なぜ知能爆発が人類全体に広く分散せず特定のAIに集中するのか——を問題視した点で、他の反論者と異なる論点を提起した。 ## 横断的知見 - Yudkowsky (2008) がハード/ソフトテイクオフを理論的可能性として論じたのに対し、[[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] は「デフォルトでは2030年に完全自動化されたAI研究開発によって年内に超知能へ到達する(=ハードテイクオフに近い速度)」という前提を置いた上で、国際的な検証レジーム([[AI国際検証レジーム]])によってこれを2030〜2040年の10年間に人為的に引き延ばす、というガバナンスによるテイクオフ速度の制御を提案する。同文書は2030〜2035年を人間の能力範囲内でのスケール、2035〜2040年をトップ専門家レベルでの一時停止と位置づけ、テイクオフ速度を「自然に決まる変数」ではなく「政策的な制御変数」として扱う点で、Yudkowskyの純粋に理論的なテイクオフ速度論(soft takeoff keyholeの狭さを論じる議論)と対をなす。(Source: [[@2008__LessWrong__Recursive Self-Improvement]], [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]) ## 未解決の問い - Hanson が問題視した「局所性」の論点(なぜ知能爆発が人類全体でなく特定のAIに集中するのか)への Yudkowsky の直接的な応答は、本ソース(2008-12-01)のシリーズ続編に持ち越されており未確認。続編("Total Nano Domination" 以降のエントリ)を ingest すれば解決しうる。 - 2026年時点のハーネスレベル自己改善(Meta-Harness・Self-Harness・AHE、[[@2026__Lil'Log__Harness Engineering for Self-Improvement]])は、Yudkowsky の「横ばいか爆発か」の二値予測のどちらの側にも明確に分類されない漸進的な性能向上を報告している。これは二値予測への反例なのか、それとも観測期間がまだ短すぎるだけなのか。 - [[リソースオーバーハング]](無防備なインターネット、高速逐次コンピュータ)がハードテイクオフに寄与する度合いは、2008年時点の想定と2026年時点の実際のインフラ状況(クラウド計算資源の分散化、セキュリティ態勢の変化)でどう変わったか。 ## 関連 - [[知能爆発]] — テイクオフ速度論争が扱う帰結そのもの - [[Recursive Self-Improvement]] — テイクオフ速度の理論的根拠となる再帰機構 - [[リソースオーバーハング]] — ハードテイクオフに寄与する追加要因 - [[AI国際検証レジーム]] — テイクオフ速度をガバナンスによって制御しようとする実践的提案 - [[Eliezer Yudkowsky]] — ハードテイクオフ側の主要論者 - [[Robin Hanson]] — 局所性を巡る論敵 ## 出典 - [[@2008__LessWrong__Recursive Self-Improvement]](2008-12-01、[[Eliezer Yudkowsky]]) - [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]](2026、[[AI Futures Project]])