> [!abstract] 概要(本文冒頭より抄訳) > AI企業はあらゆる面で人間より賢いAIを作ろうと競争している。我々は「AI 2027」で、これが人類の絶滅か、権力の不可逆な集中のどちらかに帰結すると予測した。Plan Aは、その代わりに起こるべき、我々の積極的なビジョンである。 > > このシナリオでは、人類は超知能の開発を2040年まで遅らせ、AI研究をすべて公開し、世界中の数十社が最先端に追いつくことを許し、意図的に相互確証コンピュート破壊(mutually assured compute destruction)の体制に入る。 > > Plan Aは主として予測ではなく提言である。このシナリオは、我々が実際に将来こうなるだろうと考える最善の推測ではない。むしろ、我々の政策提言を伝達し、ストレステストするための乗り物である。 > > このAI 2040シナリオでは、Plan Aは不完全ながら、そしてぎりぎりのタイミングながら、実装に成功する。 ## 文書の性格(通常の学術論文との違い) 本ソースは査読付き学術論文ではなく、研究非営利団体 AI Futures Project による**政策シナリオ文書**(90ページ)である。同団体は2027年に発表した「AI 2027」シナリオの続編としてこれを位置づけている(l.22–25, l.4976–4978)。「AI 2027」が破局的帰結(絶滅または権力集中)への警鐘だったのに対し、本書 “AI 2040: Plan A” はその代替として著者らが推奨する国際的取り決め(Plan A)を、詳細な年表形式の物語として描き、成功に至る想定シナリオを提示する。著者らは本書を「予測ではなく提言」であり「シナリオ精査(scenario scrutiny)」——具体的な物語に書き起こすことで政策提案の弱点を炙り出す手法——の実践だと明言する(l.60–67, l.117–143)。したがって本ノートも、通常の論文ノート構成(問題設定/提案手法/実験/結果)をシナリオ文書向けに読み替えて記録する。 発行組織は AI Futures Project(連絡先 [email protected]、l.4979)。本文中で個人名がフルネームで判明するのは Daniel Kokotajlo のみ(l.102、「AI 2027」の共著者でもある)。他に Thomas・Eli・Romeo・Brendan・Ryan がファーストネームのみで、リスク見積りなどについて個別の見解を述べる形で登場する(l.192, l.4489, l.4607–4611)。姓は本文からは特定できない。刊行年の明記は本文になく、シナリオの現在地点が一貫して「2026年」として扱われている(例: l.847, l.989)ことから、2026年執筆・公開と推定される(推定)。 ## Plan Aとは何か Plan Aは「人類がAI駆動の存亡的破局を回避し、繁栄する未来に到達できる方法についての、著者らの積極的なビジョン」と定義される(l.48–49)。国際的な取り決めとして、AI研究開発の完全な研究透明性(total research transparency)を各国に提供し、世界各国がその内容を理解しガードレールを執行できるようにする(l.53–59)。結果として、複数の国・複数の企業が秘密裏に競争するのではなく、共同で緩やかかつ安全に超知能へとスケールしていく状態を目指す。 Plan Aは4つの中核原則で構成される(l.544–577)。 - **Buy Time(時間を稼ぐ)**: 安全性への確信が持てる速度までAI開発を減速する(l.564, l.581–602)。 - **Total Research Transparency(研究の完全透明化)**: AI研究のほぼすべてを一般に可視化する(l.568, l.603–681。因果図は Appendix G)。 - **Diffuse AI Broadly(AIを広く拡散させる)**: 多数の企業・多数の国が最先端に並立する状態を保つ(l.572, l.682–704)。 - **Reversibility(可逆性)**: アルゴリズム進歩の速度を制限し、**相互確証コンピュート破壊(Mutually Assured Compute Destruction, MACD)**を維持する(l.576, l.705–756)。 MACDの具体像は、新設データセンターを意図的に相手国の脆弱な第三国領域に置く(中国のものはカナダに、米国のものはモンゴルに)ことで、取り決めが破綻した場合に相手側がチップを奪取するより先に自ら破壊せざるを得ない構造を作る、というものである(l.744–756)。実現手順は「コンピュート宣言 → 訓練一時停止(推論限定検証)→ 2029年の世界的合意形成(コンソーシアム)」という段階を踏む(l.366–527)。 **Figure 1: OpenAIのStargateデータセンターとEUV露光装置** ![[_attachments/AI-2040/fig01-stargate-datacenter-euv-machine.png]] (左: OpenAIのStargateデータセンター。右: 極端紫外線(EUV)リソグラフィ装置——人類が作った最も複雑な機械の一つとされる。EUV装置は最先端AIチップの製造に不可欠で、オランダの単一企業ASMLのみが製造する。この図はコンピュート宣言・検証の対象となる物理的インフラの規模感を示す。Source: l.428–432) ## シナリオの前提(タイムライン設計) 本書のシナリオは2029年に米中が超知能への無謀な競争回避で合意し、2030年に完全自動化されたAI研究開発によって到達したはずの超知能を、取り決めによって回避する、という時間軸を採る(l.172–187)。2030〜2035年は人間の能力範囲内でのスケール、2035年に「トップクラスの人間専門家レベル」で一時停止して人間の統制を維持し、2040年に停止を解いて超知能へスケールする——これがタイトル「AI 2040」の由来である(l.178–187)。 前作「AI 2027」との違いは2点で、(1) 既定タイムラインが2030年に後退したこと、(2) ガバナンス上の対応の結果、汎用超知能の出現が2040年に先送りされることである(l.185–187)。著者ら自身は「Plan Aの実装は提言であり実際に起こると期待しているわけではないが、その後に描かれる帰結は予測である」と位置づける(l.60–67)。 ## シナリオの展開(年表) | 年 | 見出し | 主な出来事 | |---|---|---| | 2027 | The Writing on the Wall | AIエージェントが普及。AI Transparency Act of 2027成立(根本解決には至らない小手先の対応、→Appendix A) | | 2028 | AI on the Ballot | データセンター設備投資が米軍事予算の2倍規模に。大統領選挙の争点化 | | 2029 | Choose a Path | 大統領が国際協調を宣言。中国も交渉に応じる(→Appendix B)。コンピュート宣言・訓練停止・世界的合意形成が進む。並行して中国による秘密裏のAGI計画の分岐あり(→Appendix D) | | 2030 | Plan A is Established | 4つの中核原則が採択され、MACD体制が確立 | | 2031 | Safety Cases | コンソーシアムが規制する初のAIが展開。「安全性ケース」(整合性+制御)の提出義務化(→Appendix K)。分岐: 欠陥のある安全性ケースが承認されてしまう失敗シナリオ(→Appendix L) | | 2032 | Controlled Explosive Growth | 2000万速度のAIエージェント6000万体、GDP成長率約50%、経済特区(SEZ)創設、ロボット・コンピュート許可証のキャップ&トレード制度(→Appendix M, N) | | 2033 | The Citizen's Dividend | 市民配当が45,000ドル/人で開始、2035年には約100万ドルに向けて上昇。「真実探求AI」の登場(→Appendix O, P, Q) | | 2034 | Mutually Assured Compute Destruction | 世界の計算資源が600億H100e相当に到達(2026年時点の2000万から)。MACDインフラがカナダ・モンゴルで稼働(→Appendix S)。分岐: 取り決め崩壊シナリオ(→Appendix T) | | 2035 | Pause at Top Expert AI | 制御可能性の限界からトップ専門家レベルでAIを一時停止。解釈可能性など整合性科学が進展(→Appendix U, V, W) | | 2036 | Life After Work | AIエージェント2億体(人間換算約1000億人相当の労働力)。米国就業率26%まで低下。世界がSEZ・アルコロジー・自然保護区に分化(→Appendix X) | | 2037 | The Apocalyptic Arrival of Truth on Earth | 科学的進歩が10〜1000倍高速化。プライバシー保護型監査とAI嘘発見器が登場(→Appendix Y) | | 2038 | AI Alignment Is Now a Science | 整合性科学が成熟。異なるAIが異なる権威の指示に従う体制に。論点は「善とは何か」へ移行(→Appendix Z) | | 2039 | Beginning to Trust AIs | AIへのさらなる権限委譲を巡る世界的交渉。米国の市民配当が年1000万ドルに(→Appendix AA, AB) | | 2040 | Passing the Torch to AIs | 規制緩和が進み、軍事の自律化が進行。「後戻り不能点」を2040年10月末頃と想定(→Appendix AC) | シナリオ本編には、各年の指標(雇用率・世帯所得中央値・整合性研究者数・累積スローダウン期間・信頼できるエージェント数)がサイドバーとして挿入されている。抜粋すると、雇用率は2027年の62%から2040年には12%まで低下する一方、所得中央値は47千ドルから1300万ドルまで上昇し、整合性研究者数は1,200人から225,200人まで増加する(l.20–44, l.325–401, l.1965–1991ほかサイドバー数値)。世界の計算資源は2026年の2000万H100e相当から、2030年5億、2032年30億、2034年600億へと増大する(l.1293–1299)。 エピローグ「Life after ASI」(l.2104)は超知能到達後の宇宙資源配分(1人あたり100億分の1のシェア、l.2159–2183)や普遍的権利(l.2218)を扱うが、著者ら自身が「我々の通常の仕事よりもさらに思弁的」であり「この具体的な提案そのものに確信は持てていない」と明記する箇所である(l.2116–2117, l.2143)。 ## 代替プランとの比較(Plan B/C/D/S) 本書の後半「The Alternative Plans」では、米国が超知能の課題にどう対応しうるかの4つの代替案が論じられ、いずれも「AI 2027」の対応する結末(Sabotage/Slowdown/Race ending)を参照するよう読者に指示する(l.4342以降)。 - **Plan B — Sabotage**(l.4355): 米国主導連合による、中国AI計画への隠密・物理的妨害(サイバー戦・物理攻撃)と並行して、国有化された米国内プロジェクト「The Project」が突き進む案。2031年までに「引き渡し(Handoff)」か「戦争」かの強制選択に至る(l.4404–4472)。著者らの評価は「Plan AやPlan Sより著しく劣るが、実行次第ではPlan Cよりましな場合もある」「歪んだ形で実行されれば破局的」(l.4474–4514)。 - **Plan C — The Slowdown**(l.4524): 政府がAI企業の減速を試みるが、競争圧力や対中懸念に屈する案。著者らは「Plan Dよりはましだが、依然として悪いプラン」と評し、安全性のための一時停止期間が短すぎる点、AIを「誰に対して整合させるのか」が不明確な点、第三次世界大戦リスクの上昇を批判する(l.4603–4646)。誤整合AIによる乗っ取り確率について、著者間で見解が分かれる(Thomas/Danielは約70%、Eli/Romeoは約50%、Brendanは約1/3、Ryanは約20%、l.4607–4611)。 - **Plan D — The Race**(l.4656): 軽度の規制のもと、2031年初頭までに全速力で超知能を目指す案。著者らは「ひどい(atrocious)」と評価し、制御喪失・極端な権力集中・世界大戦リスクを挙げる(l.4725–4742)。著者の1人は制御喪失確率をより低い約40%と見積もる(l.4727)。 - **Plan S — Shutdown**(l.4753): 全世界でのフロンティアAI研究開発・訓練の全面停止(既存AIの推論利用は継続)。チップ追跡による検証を伴う(l.4757–4834)。著者らは「共感的であり、Plan Aより優れている可能性もある」としつつ(l.4854)、取り決めがいずれ崩壊しやすいことと、停止期間中に安全性・整合性研究が進まないことを理由にPlan Aを推奨する(l.4855–4932)。 Appendix Jには、Plan Aと競合しうる他案(国内限定版Plan A・GPU軍備管理・「AI版CERN」)の比較表もある(l.3093–3145)。 ## 主要な付録(Appendix A〜AC) 90ページ中の後半約半分は付録が占め、シナリオ内の各所からリンクされる形で詳細な設計論拠を提供する。特に重要なものを挙げる。 - **Appendix D — 中国による秘密裏のAGI計画**(l.2542): 中国がメドッグ(Medog)水力発電所の隣接トンネルに単一データセンターを建設する2028〜2031年の詳細な分岐シナリオ。チップの横流し、約200人規模のプロジェクト、検知確率の分析を含み、検知されなければTED-AI(トップ専門家凌駕AI)に2043年(80%信頼区間2036–2055年)で到達すると結論する。検知確率はそれまで90%超で推移する(l.2798–2828)。 - **Appendix C — 推論限定検証が間に合わなかった場合**(l.2492): 提案するチップレベル検証ハードウェアの詳細と、間に合わなかった場合の5つの代替案。 - **Appendix L — 欠陥のある安全性ケースが承認される**(l.3199): 著者らが最も恐れる失敗モード。透明性があるにもかかわらず、バイアスや楽観によって安全でないAI設計が承認される6つのサブシナリオを列挙し、これは著者らの卓上演習(tabletop exercise)で「何度も」再現されたと明記する(l.3274–3283)。 - **Appendix U — 巨大な浮体式データセンター**(l.3843): 2034年までに5テラワット規模となる将来の計算資源を、陸上でも宇宙でもなく公海上に設置する論拠。 - **Appendix M/N — 爆発的経済成長**(l.3288, l.3325): AI・ロボット労働による経済成長の機構、および1520〜2020年の英国史500年を主観的5年間に圧縮するアナロジーで「一時停止」中の変化の体感速度を説明。 **Figure 2: 巨大浮体式データセンターの構想図(Appendix U)** ![[_attachments/AI-2040/fig02-floating-datacenter.png]] (AIが太陽光パネルと蓄電池のモジュール型浮体設計を開発し、海上に建設していく想定図。信頼性・監視可能性の観点から、コンソーシアムは宇宙より公海を選ぶ。Source: l.1354–1358, Appendix U l.3843) **Figure 3: 産業用経済特区(SEZ)のイメージ(2032年)** ![[_attachments/AI-2040/fig03-industrial-sez.png]] (「巨大な露天掘り鉱山——人工グランドキャニオン——の隣に、ロボットで満ちた人間のいない都市規模の工場がある」という2032年チャプターの描写に対応する構想図。Source: l.1586–1587) **Figure 4: 中国の秘密裏AGI計画とメドッグ水力発電所(Appendix D)** ![[_attachments/AI-2040/fig04-medog-hydropower-tunnel.png]] (メドッグ水力発電所——完成時出力60ギガワットで三峡ダムの3倍——のトンネルに秘密データセンターを併設する構想。地下トンネルへの排熱により赤外線衛星からの検知を避けられる点が立地選定の決め手とされる。Source: l.2613–2634) **Figure 5・6: 秘密裏AGI計画のTED-AI到達予測(Appendix D)** ![[_attachments/AI-2040/fig05-covert-project-forecast-no-detection.png]] ![[_attachments/AI-2040/fig06-covert-project-forecast-with-detection.png]] (検知を考慮しない場合(上)、秘密プロジェクトはTED-AIに2043年(80%信頼区間2036–2055年)で到達すると予測される。検知確率を考慮した場合(下)、米情報機関の推計では2043年まで未検知でTED-AIに到達する確率は10%未満に留まる。Source: l.2798–2828) ## 著者らの中心的主張とリスク評価 著者らはAI企業が「今後1〜10年以内に」人間超えのAIシステムを構築する目標をおそらく達成すると見る(l.75–76)。その上で、業界には超知能の制御について「まともな計画が全く無い」まま突き進んでいると批判する(l.77–79)。存亡的絶滅リスクの確率評価はチーム内で10%〜30%の幅があるとされ(脚注、l.88–100)、Daniel Kokotajloが約100人(うち約40%がフロンティアAI企業所属)に行った非公式の挙手調査では、AI研究開発を完全自動化した時点で先行企業が持つリード期間の中央値は約3か月、そのうち約1/3を消費する見込みという回答が中央値だった(l.102–111)。 タイムラインについては、Daniel Kokotajloの「AI 2027」執筆終了時点でのAGI到達年の中央値予測は2028年、他の著者らは2031〜2035年の幅だったとされる(脚注、l.191–195)。 ## 強み - シナリオという形式そのものが、抽象的な政策提言では見えない実装上の困難(検証技術が間に合うか、規制当局が誤った安全性ケースを承認してしまわないか等)を具体的に炙り出す設計になっている。Appendix Lはその実践例として、著者ら自身の卓上演習での失敗再現を明記しており、自己批判的な検証プロセスを内蔵している(l.3274–3283)。 - 米中の秘密裏AGI計画(Appendix D)のように、Plan Aの検証体制が破られた場合の具体的な攻撃シナリオと検知確率まで定量的に検討しており、提案の脆弱性を隠さず開示している。 - 著者間の見解の相違(Plan C/Dでの誤整合確率推定、Plan Bの実行品質への楽観・悲観)を集約せず個別に開示しており、単一の確信として提示していない(l.4607–4611, l.4727–4730, l.4489–4496)。 ## 弱点・限界 - Plan Aの成立自体が「予測ではなく提言」であり、シナリオの前半(米中合意に至る過程)は著者らの希望的想定に強く依存する。著者ら自身、実装結果の記述は予測だが実装そのものは予測ではないと明言している(l.60–67)。 - 検証技術(推論限定検証・AI嘘発見器・「neuralese」デコーディングによる解釈可能性等)の多くが現時点では実証されていない将来技術であり、著者ら自身「人間向けの嘘発見器が実現可能かどうか確信が持てない」と留保している(嘘発見器についてl.4074付近)。 - エピローグ「Life after ASI」は著者ら自身が「我々の通常の仕事よりもさらに思弁的」と明言する部分であり(l.2116–2117)、宇宙資源配分や普遍的権利の具体案は単なる「道徳的な床(floor)」の提示に留まる(l.2139–2141)。 - 市民配当などの分配設計は米国中心であり、著者らも「政治的現実への譲歩であり、最善・公正だからではない」と明記している(脚注、l.1181–1197)。 ## 出典検査(チャットへの報告) - ✅ 完全に出典裏付けあり: Plan Aの4原則、MACDの仕組み、年表の見出しと主要出来事、代替プランB/C/D/Sの定義と著者評価、Appendix一覧の要約、指標推移の数値。いずれも上記本文中の行番号で本文に遡及可能。 - ⚠️ 不確実・要注記: 発行年は本文に明記がなく、シナリオの現在地点(l.847, l.989で「2026年」と扱われる記述)から2026年執筆・公開と**推定**した。姓が判明しない著者(Thomas, Eli, Romeo, Brendan, Ryan)はファーストネームのみを本文どおり記載し、姓を補完していない。 - ℹ️ 推定: `date_published: 2026` は上記の内部証拠に基づく推定であり、確定情報ではない。