# 権力集中リスク 超知能AIの誤整合(misalignment)による人類の制御喪失とは独立した、もう一つのAI存亡リスク軸。AIの開発・整合化に成功したとしても、その結果として少数の個人・企業・国家が世界唯一の超知能軍団を事実上独占的に統制する状態が生まれ、それが不可逆な独裁につながりうるというリスクを指す。[[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] は、たとえAI企業が自社のAIの整合化に成功したとしても「結果として生まれるのは、少数の集団、あるいはただ一人の個人が、数か月間にわたって世界唯一の超知能軍団を実効支配し、超知能自身から世界の乗っ取りに等しい選択肢を提示される」状況だと述べる。(Source: [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]) 同文書は、OpenAIが2016年当時、Demis Hassabis(DeepMind CEO)がAGIで独裁者になることを懸念して設立された経緯(Ilya SutskeverとGreg Brockmanのメールとして引用)を挙げ、「では誰がSamやElonが独裁者になることを防ぐのか」という問いを、Congressが2027年に直面する論点として描く。(Source: [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]) ## 横断的知見 - 今後の取り込みで、権力集中リスクを扱う他ソース(AIガバナンス論、テクノロジー独占論等)との突き合わせにより横断的知見を蓄積する。 ## 未解決の問い - 誤整合リスクと権力集中リスクはしばしば同じ議論の中でセットで語られるが([[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] 自身がそうしている)、両者に共通して有効な対策(透明性・検証)と、一方にしか効かない対策(整合性研究は誤整合には効くが権力集中には直接効かない)の切り分けは、より広い文献との突き合わせが必要。 - 権力集中リスクの定量的な確率評価(誤整合と独立に何%か)は [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] 内では明示されておらず、他ソースでの定量化の試みは未調査。 ## 関連 - [[AI国際検証レジーム]] — 権力集中リスクへの対抗策として提案される検証・透明性の枠組み - [[知能爆発]] — 権力集中が生じる前提となる急速な能力向上 - [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]] — 一次資料 ## 出典 - [[@2026__AI Futures Project__AI 2040 - Plan A - The Deal]]