# ハーネス自己進化 ## 定義 [[Harness Engineering]] における最も深い最適化対象——モデルに何の情報をどう保存・検索・提示するかを決定する**ハーネスの実装コード自体**——を、コーディングエージェントが自ら探索・編集・検証する研究系統。[[Lilian Weng]] の [[@2026__Lil'Log__Harness Engineering for Self-Improvement]] が「ハーネス最適化の進行段階」(`instruction prompts → structured context → workflow → harness code → optimizer code`)の最終段として位置づける。(Source: [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) ## 代表的手法 ### Meta-Harness([Lee et al. 2026](https://arxiv.org/abs/2603.28052)) 「Meta-」はハーネスを最適化するためのハーネスであることを意味する。新ハーネスの提案者自体がコーディングエージェントであり、最終出力はパレートフロンティア上のハーネス候補群。実行履歴全体はファイルシステム経由でアクセス可能で、コーディングエージェントは `grep`/`cat` で読む(全てを単一プロンプトに詰め込まない)。提案されたハーネスは自身のソースコード・スコア・ロールアウト軌跡・状態更新を含む辞書としてファイルシステムに存在する。TerminalBench-2 実験では、Terminus-KIRA・Terminus-2 という既に強いハーネスから探索を初期化しても改善を確認した。 ### Self-Harness([Zhang et al. 2026](https://arxiv.org/abs/2606.09498)) propose-evaluate-accept ループでハーネスを自己改善する。3段階: 1. **Weakness mining**: 現行ハーネス $h_t$ の評価から得た実行トレースを分析し、失敗をverifier-groundedな失敗パターンにクラスタリングする。表面上同じverifier結果(タイムアウト・成果物欠落等)でも異なる因果機構を持ちうるため、terminal verifier-level cause・エージェント挙動の因果的地位・トレースが露呈する抽象的機構を含む豊富な失敗記録が必要。 2. **Harness proposal**: 同一モデルを $h_t$ 下のproposerとして呼び出し、境界付き提案コンテキスト(編集可能なハーネス面・failure pattern・保持すべき合格挙動の記録・過去の編集試行の要約)のもとで境界付きハーネス編集を提案。編集候補は多様かつ異なるものであるべき。 3. **Proposal validation**: 候補編集を held-in(弱点解消の検証)と held-out(未知の問題混入がないかの検証)の両分割で回帰テストし、両方で退行がない候補のみ受理して $h_{t+1}$ にマージする。却下された候補はハーネスを変更せずログに残す。 MiniMax M2.5・Qwen3.5-35B-A3B・GLM-5 で Terminal-Bench-2 を実行した結果、モデル固有の弱点を狙った harness instruction を学習し、held-out pass rate を改善した。 > Weng の懸念: 「プログラムが OS システムを編集できてしまうと抽象境界が壊れる。編集可能面は適切に設計され、権限制御とセキュリティ層はこのループの外側に存在する必要がある。[[報酬ハッキング]]をめぐる課題は依然として残る。」 ### Agentic Harness Engineering(AHE、[Lin et al. 2026](https://arxiv.org/abs/2604.25850)) ハーネス進化のボトルネックを**可観測性(observability)**——ロールアウトが失敗したときにどのコンポーネントが原因かを特定でき、すべての編集が証拠に基づいていること——に求め、3つの observability pillar による閉ループを構築する: 1. **Component observability**: 編集可能な各ハーネスコンポーネント(システムプロンプト・ツール記述・ツール実装・ミドルウェア・skill・サブエージェント構成・長期メモリの7種)をファイルシステム上に明示的に表現し、失敗パターンを1コンポーネントに対応づけて編集をより的確にする。 2. **Experience observability**: 各ハーネスが $k$ 本のトレースを生成し、「Agent debugger」エージェントがトレースをタスクごとに分析、成功/失敗の根本原因をレポート化する。全タスクレポートはベンチマーク全体像に集約され、必要に応じて生トレースにもアクセスできる階層アクセス構造でトークン効率を保つ。 3. **Decision observability**: 「Evolve agent」がリポジトリを読み、編集対象コンポーネントを決定し、編集と理由づけを生成する。すべての編集はファイルレベルの反証可能な主張であり、次ラウンドで検証される。実行ディレクトリ・トレーサー・検証器・LLM 設定は読み取り専用(検証器の無効化・モデルの入れ替え・推論予算の引き上げといった一群の報酬ハッキングを構造的に無効化する)。 Terminal-Bench-2 で AHE は人手設計ハーネス(OpenCode・Terminus-2・Codex)を Hard tier を除いて上回った。同じ凍結ハーネス(それ以上進化させない状態)が SWE-bench-verified にも転移したことから、進化したハーネスはベンチマーク固有の最適化ではなくエンジニアリング経験をコンポーネントにエンコードしていることが示唆される。 ## 先行研究: STOP と DGM ### Self-Taught Optimizer(STOP、[Zelikman et al. 2023](https://arxiv.org/abs/2310.02304)) 再帰的スキャフォールド改善の早期の例。改善器 $I_0$ が解 $s$・効用関数 $u$・ブラックボックス LLM $M$ を受け取り改善解 $s'=I(u,s;M)$ を返す。目標は $s$ ではなく**改善器 $I$ 自体を改善する**こと($I_t=I_{t-1}(\hat{u},I_{t-1};M)$)。改善された改善器は遺伝的アルゴリズム・分解と部分改善・マルチアームプロンプトバンディット・焼きなまし法・温度変化・ビーム/木探索を発見した。**注意すべき点**: GPT-4 では性能向上したが GPT-3.5・Mixtral のような弱いモデルでは性能が劣化した——再帰構造だけでは不十分で、ベースモデルが機構自体を改善できるだけの能力を要する。 ### Darwin Gödel Machine(DGM、[Zhang et al. 2025](https://arxiv.org/abs/2505.22954))・Hyperagents([Zhang et al. 2026](https://arxiv.org/abs/2603.19461)) [[進化的探索によるエージェント設計]]の手法群(ソリューション改善が主眼)と異なり、DGM は編集可能なハーネスコードリポジトリの進化を明示的に対象とする。エージェントが自身のハーネスを変更できる点が特徴。固定モデル(Claude 3.5 Sonnet)・単純な初期ハーネス構成のもとで、DGM が発見したエージェントは SWE-bench Verified(20%→50%)・Polyglot(14.2%→30.7%)で手作りエージェントに匹敵・凌駕した。Hyperagents はメタエージェントを導入し、既存タスクエージェントの改変方法自体を制御して新エージェントを生成する。 ## モデル能力とハーネス進化能力の分離 [Lin et al. (2026)](https://arxiv.org/abs/2605.30621) は harness-updating(有用なハーネス編集を生成する能力)と harness-benefit(更新後のハーネスを活用してタスクを解く能力)の2軸を分離した。Qwen3.5-9B から Claude Opus 4.6 まで幅広いモデルサイズで harness-updating 能力はほぼ横ばいだった一方(9B のハーネス提案者/進化器は Opus と手続き的に同型のskillを書けた)、harness-benefit は中位モデルが最も恩恵を受ける非単調な傾向を示した。ハーネスを最大限活用するには、モデルが skill/tool を正しく適時に呼び出し、長期の instruction following に長けている必要がある。 ## 横断的知見 - **Meta-Harness / Self-Harness / AHE の3手法は共通して「ファイルシステム上の明示的な編集可能面」を前提とする**が、可観測性の粒度が異なる。Meta-Harness はハーネス候補全体を辞書として扱い、Self-Harness は失敗パターン単位、AHE はコンポーネント単位(7種)まで分解する——この粒度の細分化が Terminal-Bench-2 での AHE の優位性(人手設計ハーネスを上回る)につながっている可能性がある。(Source: [[@2026__Lil'Log__Harness Engineering for Self-Improvement]]) - **STOP の「弱いモデルでは再帰改善が劣化する」という2023年の知見は、2026年のMeta-Harness・Self-Harness・AHEの実験でも暗黙に前提とされている**——いずれも十分に強いベースモデル(MiniMax M2.5・GLM-5・Claude Opus 4.6等)を用いており、弱いモデルでのハーネス自己進化の追試は本記事の引用範囲には見当たらない。 ## 未解決の問い - Self-Harness の「編集可能面の設計」は誰が(どのレベルの人間監督で)決定すべきか。AHE の「実行ディレクトリ・検証器は読み取り専用」という制約は十分な安全策か、それとも別の抜け道(検証器の仕様自体を書き換えずに解釈を歪める等)が残るか。 - Meta-Harness・Self-Harness・AHE はいずれも Terminal-Bench-2 を主要な評価ベンチマークとしている。ベンチマーク多様性の不足が、進化したハーネスの汎化性を過大評価するリスクはないか。 - harness-updating(平坦)と harness-benefit(非単調)の分離は、どのような下流タスク設計・評価指標であれば再現するか。中位モデルが最も恩恵を受けるという結果は、ハーネス設計の対象読者を「最強モデル」ではなく「中位モデル」に置くべきという含意を持つか。 ## 関連 - [[Harness Engineering]] — 本概念の親概念 - [[Recursive Self-Improvement]] — 本概念が実現しようとする上位目標 - [[コンテキストエンジニアリング]] — ハーネスの一構成要素(コンテキスト管理)の自己進化 - [[進化的探索によるエージェント設計]] — DGM・Hyperagents 以外の進化的探索手法群 ## 出典 - [[@2026__Lil'Log__Harness Engineering for Self-Improvement]](2026-07-04、[[Lilian Weng]])