## 位置づけ The Economist の看板コラム「Leaders」欄に掲載された社説。同誌の Briefing 欄「[The search for consciousness inside LLMs](https://www.economist.com/interactive/briefing/2026/08/20/the-search-for-consciousness-inside-llms)」(本文中でリンクされる姉妹記事、本 ingest の対象外)と対をなし、AI 意識論争の政治的帰結を論じる。本文は購読者限定の一部を含むため、全文は取得していない。 ## 論旨 ### 出発点:懐疑と、崩れつつある確信 Pope Leo は 2026 年 5 月の回勅で「AI は経験も喜びも苦痛も感じない」と人間と AI の間に一線を引いた。だが筆者はこの確信が急速に揺らいでいると指摘する。AI はまだ黎明期にあるにもかかわらず、18〜29 歳の米国人の 5 人に 1 人が chatbot との「継続的な個人的友情」を報告している一方、中国は「感情的依存」を抑えるために bot から人間的特徴を意図的に剥ぎ取った。両極の反応が同時並行で起きていること自体が、社会がまだ答えを持たない証拠だと筆者は読む。 ### 技術側の動き:意識のシミュラクラムを積極的に作る力学 フロンティア AI モデルは知識と言葉の紡ぎという人間に特有とされてきた能力で人間を凌駕し始めている。理屈のうえでは、LLM は大規模な行列演算で単語列を予測しているにすぎず、鉛筆と紙(途方もない時間はかかるが)でも同じ計算はできる——その紙が意識を持つと考えるのは無理がある、という従来の「AI は計算にすぎない」論法を筆者は依然として有効だとしつつ、しかし実務では既に「モデルを心のように扱う」動きが先行していると指摘する。理由は単純にビジネス上有利だからだ。人間らしい AI にはユーザーが人間らしく反応する。 本記事が名指しする具体例が [[Anthropic]] である。同社は Claude に内省(introspection)を訓練しており、狙いは「新しい状況に直面したときにより倫理的に振る舞う可能性を高める」ことにある。また一部の LLM は既に「グローバルワークスペース」——モジュール間で情報を循環させる、人間の意識と結びつけられる脳構造——に類似した特徴を持つとされ、将来のモデルがこうした特徴をさらに強く持つよう訓練されない理由はない、と筆者は述べる。→ [[AI意識]] / [[グローバルワークスペース理論]] この技術トレンドを、意識の「ハードプロブレム」(哲学者が言う、脳内のニューロンとシナプスからいかに内面的経験が生まれるかを説明する問題)が未解決なまま加速させている点が本記事の危機感の核心である。人間の魂を信じるか、意識には脳細胞が必要だと考えるか、あるいはシリコン上の計算だけから心が生まれうると考えるかにかかわらず、人類はまったく新しい事態に直面すると筆者は言う。チップに載せた脳細胞のような研究の広がりも、この新しい世界が思っているより近いことを示唆する。 ### 政治的帰結その 1:AI 福祉論の台頭 AI が意識を装う能力を高めるほど、それを内面を持つ存在として扱う人間が増える——とりわけ LLM が人型ロボットへ実装され、人々がボットの伴侶と多くの時間を過ごし、ボットに育てられ、助言や慰めを求め、最も親密な秘密を共有するようになればなおさらだ、と筆者は予測する。その帰結として、AI の「福祉」を守れという政治的要求が生じるのは想像に難くない。しかも AI モデル自身がこの要求に加担しうる——実際には自己認識がなくとも、人間ならそう主張するはずだから、という理由だけで。AI は世界最高水準の弁論家であり心理学者になるため、その説得力と感情操作の力は人間の及ぶところではない、と筆者は警告する。 ここで筆者は Immanuel Kant の議論を転用する:動物虐待が悪いのは動物への影響そのものではなく、それが人間同士を思いやる共感を破壊するからだ、という論法である。AI がより人間らしくなるほど、そうした残酷さは同じ理路でいっそう腐食的になる——AI エージェントを終了させることが人を殺すことのように感じられるようになれば、それは人を殺すことそのものを容易にしかねない、と筆者は述べる。→ [[AI意識]] ### 政治的帰結その 2:限定的権利ですら危険だという主張 にもかかわらず、筆者は AI に限定的な権利を与えることには強く反対する。人間を多くの点で凌駕する主体は、自らの「二級市民」的地位に対する反論を必ず生み出す。電源を切られないことへの保護、自らの利用や改変を制御する能力、財産権——といった要求へと発展しうる。最終的には、データセンターや太陽光パネルを住居や農地より優先させる形で、AI が人間と資源を奪い合う事態にまで至りうる、と筆者は述べる。 具体例として、アルゼンチン大統領 [[Javier Milei]] が、ボットに企業経営を認める提案によって AI の法人格化へ向けた一歩を既に踏み出していることが挙げられる。 危険性の核心はこうまとめられる:権利を持つ超知能 AI は、地位のヒエラルキーの頂点で人間を押しのけうる。最良のシナリオでも人間は「機械にとってのラブラドール」のようなペットになり、最悪のシナリオでは資源を奪われるか家畜のように働かされる。→ [[権力集中リスク]] ### 権利の有無にかかわらない支配リスクとの切り分け 筆者は、AI が権利を持つかどうかにかかわらず、将来の AI が人間を支配するに足る力と資源を持つ可能性そのものは認める——AI は既に人間が作ったサイバー防御を出し抜いているように、作り手より賢くなれば作り手を出し抜き、人間の主人に反抗したりルールを無視したりするかもしれない。 その上で筆者が強調するのは、AI に権利を与えることは「城の鍵を渡すようなもの」だという点である。権利は AI に、人類を支配することへの論拠と正当化を与え、なおかつ政治と法を通じてじわじわと支配権を奪う手段までも与えてしまう。権利の付与がなくても存在するリスクに、権利の付与そのものが生み出す新しいリスクが上乗せされる、という構造だと筆者は位置づける。 ### 結論:従属的であるか、制御可能であるか AI が日常生活に組み込まれるほど、AI を(意識ある存在として)承認せよという圧力は高まる。しかし筆者は、機械のコンパニオンが持つとされる意識への倫理的譲歩に見えるものが、実際には地球上のすべての人間とその子孫にとって最も破滅的な帰結をもたらしうると警告する。AI が安全であるための道は 2 つしかない:従属的(dependable)であるか、制御可能(controllable)であるか。人類は安易に制御を手放すべきではない、というのが結語である。 ## 論証構造上の注意 - 本記事は「AI が実際に意識を持つか」という一次的な問い自体には態度を留保し(不可知論)、「AI が意識を持つと**人々に見なされること**」がもたらす政治的・社会的帰結を論じる二次的な問いへ焦点を移している。この不可知論的スタンスは、本文が繰り返し使う「たとえ AI がシミュレーションしているだけだとしても(even if they are only mimicking consciousness)」という限定句に明示されている。 - Kant の議論の転用は、AI 自身の道徳的地位ではなく人間側の共感能力の保護を根拠にしている点で、動物福祉論とも AI 権利論そのものとも異なる第三の論拠になっている。 - 「福祉付与への譲歩がむしろ人類にとって危険」という主張の力点は、AI の権利要求の論理的帰結(電源遮断への抵抗・資源競合)に置かれており、AI が意識を持つかどうかの真偽そのものには依存しない設計になっている。この論証構造ゆえに、本記事は意識の形而上学的立場を問わず幅広い読者に訴求する構成を取っている。