# Recursive Self-Improvement ## 定義 AI システムが自身の能力を高める機構自体を改善し続けるフィードバックループ。概念自体は [[I. J. Good]] が [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]](1965)で定式化した「ウルトラ知能機械」(人間を全知的活動で凌駕し、自らを改良するより優れた機械を設計できるシステム)に遡り、[[Eliezer Yudkowsky]] が [[@2008__LessWrong__Recursive Self-Improvement]](2008)で「AI が自身の認知機構を改善するために現在の知性を使う」特定のフィードバックループとして「recursive self-improvement」という語を定着させた。 [[@2008__LessWrong__Recursive Self-Improvement]] は本概念を、因果の5層(metacognitive・cognitive・metaknowledge・knowledge・object level)という枠組みで定義する。AIに「自分自身が使っている記憶検索アルゴリズムを改善せよ」という課題を与えた瞬間、通常は object level の課題を metacognitive level(AIの認知機構を構築する最適化過程)が処理する構図が、両者の同一化に転じる——これが Yudkowsky の言う「真の再帰」である。この定義は「自分のソースコードをRAM上で直接書き換えること」と「農業を発明して専門化した発明家を支えること」を明確に区別する立場を取り、人類の知識蓄積(科学・農業)一般を recursive self-improvement と呼ぶ用法には否定的である。(Source: [[@2008__LessWrong__Recursive Self-Improvement]]) [[Lilian Weng]] は [[@2026__Lil'Log__Harness Engineering for Self-Improvement]] で、現代 AI における RSI の近未来的経路を次の2つに整理する。 1. モデルが自身の重みを直接書き換える経路(直接的) 2. モデルが**訓練パイプライン**と**デプロイシステム(ハーネス)**を改善し、それがより優れた後継モデルを生む間接的な経路 近未来の RSI は後者(間接的)から始まる可能性が高いというのが Weng の中心的主張であり、[[Harness Engineering]]・[[コンテキストエンジニアリング]]・[[ハーネス自己進化]]・[[進化的探索によるエージェント設計]] の各領域がその構成要素として位置づけられる。(Source: [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) ## 横断的知見 - [[@2008__LessWrong__Recursive Self-Improvement]](2008)は RSI が理論上「横ばいか爆発かのどちらか」になるはずだという**直接的な自己書き換え**(コード・アルゴリズムレベル)を対象とした数理的議論を展開するのに対し、[[@2026__Lil'Log__Harness Engineering for Self-Improvement]](2026)は**間接的な自己改善**(訓練パイプラインとデプロイシステム=ハーネスの改善)という、Yudkowsky が明示的に区別した「農業の発明」的な経路に近いものを、2026年時点の実務として報告している。18年を隔てた2ソースの対比から、Weng が報告する漸進的なハーネス自己進化(Meta-Harness・Self-Harness・AHE)は、Yudkowsky の枠組みでは metacognitive 層と object 層の同一化を伴う「真の再帰」ではなく、通常の知識蓄積に近い経路である可能性が浮かび上がる。(Source: [[@2008__LessWrong__Recursive Self-Improvement]], [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) - STOP(Zelikman et al. 2023、[[@2026__Lil'Log__Harness Engineering for Self-Improvement]] 経由)が示した「弱いベースモデルでは改善器自体の再帰的改善が性能を劣化させる」という実験結果は、Yudkowsky (2008) の「既存の再帰的自己改善の実例(optimizing compiler、EURISKO)はいずれも人間知能よりはるかに弱く、自己改善力がすぐ頭打ちになった」という2008年時点の観察と整合する。両ソースとも、再帰構造の有無だけでなく、ベースとなる最適化力の強さが RSI の成否を左右するという点で一致する。(Source: [[@2008__LessWrong__Recursive Self-Improvement]], [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) ## 未解決の問い - Good(1965)原論文における「知能爆発」の記述は数段落にとどまり、機構(なぜ・どう再帰が起こるか)の議論はほとんど無い。Yudkowsky(2008)の「metacognitive層とobject層の同一化」という機構的定義は、Good の記述のどの部分を精緻化したものか、直接の言及関係は本ソース内では確認できていない。 - ハーネス改善による間接的 RSI と、モデル重みの直接書き換えによる直接的 RSI は、どの時点で交差・融合するか。[[@2026__Lil'Log__Harness Engineering for Self-Improvement]] の「Joint Optimization with Model Weights」節(SIA・Continual Harness)はその萌芽的な試みだが、実験設計上の交絡が多く証拠として弱い。 - RSI の7つの未解決課題(弱く曖昧な評価器・コンテキストとメモリのライフサイクル・否定的結果の記録不足・多様性崩壊・報酬ハッキング・長期的健全性・人間の役割)のうち、どれが最初にボトルネックとして解消されるか。 - STOP(Zelikman et al. 2023)が示した「弱いモデルでは再帰的改善が性能を劣化させる」という知見は、ハーネスレベルの自己改善(Meta-Harness・Self-Harness 等)にも同型で当てはまるか。 - Yudkowsky (2008) の「複雑な最適化連鎖を再帰で自己に畳み込むと横ばいか爆発かのどちらかになるはず」という二値的予測は、間接的(ハーネスレベル)RSI にも適用されるのか、それとも間接的経路は Yudkowsky が想定した「真の再帰」の外側にあるため、この二値性から自由なのか。詳細は [[テイクオフ速度論争]] を参照。 ## 関連 - [[Harness Engineering]] — RSI の間接的経路を担う中心概念 - [[コンテキストエンジニアリング]] — ハーネスの一部としてのコンテキスト管理 - [[ハーネス自己進化]] — ハーネスコード自体を対象とする自己改善ループ - [[進化的探索によるエージェント設計]] — ハーネス・ワークフロー探索の方法論 - [[Lilian Weng]] — 2026年時点の学術的体系化を行った著者 - [[Eliezer Yudkowsky]] — 語を定着させた2008年時点の原論者 - [[I. J. Good]] — 概念の起源(1965年)となった提唱者 - [[知能爆発]] — RSI が駆動する上位の帰結概念 - [[テイクオフ速度論争]] — RSI の理論的帰結(ハード/ソフトテイクオフ)を巡る論争 ## 出典 - [[@1965__AdvComput__Speculations Concerning the First Ultraintelligent Machine]](1965、[[I. J. Good]]) - [[@2026__Lil'Log__Harness Engineering for Self-Improvement]](2026-07-04、[[Lilian Weng]]) - [[@2008__LessWrong__Recursive Self-Improvement]](2008-12-01、[[Eliezer Yudkowsky]])