## 定義 評価データ分布の設計とは、モデル品質を評価するために用いる検証データの母集団をどう構成するかという問題であり、単一の「正解」戦略は存在せず、データの時間的構造や訓練分布と運用分布の乖離の有無に応じて複数の戦略を使い分ける必要がある。評価は常に評価指標とデータ分布という2要素の組み合わせで構成され、分布を明示しない「精度が高い」という発言は、重要なケースが十分に評価されない危険をはらむ。代表的な戦略として、データをランダムかつ独立同一分布(IID)に分割するホールドアウト検証データ、時系列データにおいて訓練と予測の時間的な進み方を再現する段階的検証(バックテスト)、モデルに一切学習させない特定時点のデータを確保して性能変化の原因を切り分けるゴールデンセット、訓練データと運用データの分布の乖離(共変量シフト・非定常性)を意図的に検証するストレステスト分布、特定の特徴量の値でデータを絞り込む細分化された分析、データが実際と異なっていたらモデルが何を予測したかを調べる反実仮想テストがある。(Source: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]] §5.2.1, §5.2.2) ## 横断的知見 - **3章が示す「ホールドアウト検証データでは検出できない脆弱性」の一覧は、5章がストレステスト分布・細分化分析という代替の評価分布を必要とする理由を裏づける具体的な失敗事例を提供する**: [[MLモデルの脆弱性の所在]]が整理するとおり、[[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 3 MLモデルの基礎]] §3.4は、不完全な適用範囲・偽相関・コールドスタート・フィードバックループ・世界の変化という脆弱性が、いずれも検証データ自体が訓練データと同じ偏りや同じ特徴量計算バグを共有しているためにホールドアウト検証データでは検出できないと述べる。5章§5.2.2はこれと独立に、IID検証データセットが「教師あり学習の理論的保証を支えるための選択であり、必ずしも有益な検証データの作り方ではない」と述べたうえで、ストレステスト分布(訓練データと運用データの意図的な乖離の検証)や細分化された分析(特定条件でのフィルタリング)を代替として提示する。3章は「なぜホールドアウト検証データだけでは不十分か」という具体的失敗事例を、5章は「では代わりに何を評価データとして設計すべきか」という処方箋を与えており、両章を突き合わせると、3章の5つの脆弱性パターンのうち少なくとも偽相関(白い壁の例のような、特定条件に紐づく相関)とコールドスタート(新製品が評価データに含まれない)は、5章のストレステスト分布・細分化分析で原理的に検出可能な失敗モードとして再解釈できる。(Source: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 3 MLモデルの基礎]] §3.4, [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]] §5.2.1, §5.2.2) - **5章の「細分化された分析」を、6章はスライシング(slicing)として大幅に肉付けし、シンプソンのパラドックスという定量的な失敗事例と3つの発見アプローチを追加する**: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]] §5.2.2は「細分化された分析」を特定の特徴量の値でデータを絞り込む評価戦略の1つとして簡潔に紹介するにとどまるが、[[@2023__OReillyJapan__機械学習システムデザイン - Chapter 6 モデル開発とオフライン評価]] §6.2.2.6は同じ着想を「スライシング」と呼び、(1) 全体精度に注目するとサブグループ間の性能差(多数派98%・少数派80%でも全体96.2%になるモデルAと、多数派95%・少数派95%で全体95%のモデルBのどちらを選ぶかという表6-3の例)を見落とす、(2) サブグループごとには一貫した傾向が全体を合算すると消失・逆転するシンプソンのパラドックス(表6-4・表6-5のバークレー校入学データの例)という2つの具体的な失敗モードを示し、さらにクリティカルスライスを発見する3つのアプローチ(ヒューリスティックベース・エラー分析・スライスの発見アルゴリズム)を提示する。5章が「何を評価データとして設計すべきか」という処方箋の一項目としてスライスを位置づけるのに対し、6章は「なぜスライスを見なければならないか」を定量的な失敗事例(シンプソンのパラドックス)で正当化し、「どうやってスライスを発見するか」という方法論まで踏み込む点で、両章は同じ主題を異なる深さ・異なる切り口(処方箋 対 方法論と正当化)で補完する。(Source: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]] §5.2.2, [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 6 モデル開発とオフライン評価]] §6.2.2.6) - **6章のモバイルユーザー事例は、3章が挙げる「不完全な適用範囲」という脆弱性パターンが機械学習以外の原因(UI崩れ)からも生じうることを示し、評価データ分布の設計だけでは検出できない失敗の存在を浮き彫りにする**: 6章はモデルが全体としては良好でもモバイルユーザーのトラフィックで著しく性能が低下した事例を紹介し、原因が小さな画面でボタンが半分隠れるというUI上の問題であったと明かす(§6.2.2.6)。この事例はスライスベースの評価によって検出可能だが、原因そのものは評価データの分布設計を工夫しても解消できない機械学習外の問題であり、3章が整理する5つの脆弱性パターン(横断的知見参照)が示唆する「検証データ側の限界」に加えて、「検知はできるが原因は評価設計の外にある」という第三の状況があることを示す。(Source: [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 6 モデル開発とオフライン評価]] §6.2.2.6) - **9章は、5章・6章が精緻化してきたホールドアウト・バックテスト・ストレステスト分布・スライシングといった静的な評価分布の設計を前提としたうえで、それでもなお「モデルを更新する目的が新しい分布への適応である場合には不十分」だと主張し、実環境でのテストという次の層を要求する**: 5章・6章は「どのような評価データ分布を構成すれば検証の死角を減らせるか」という静的な設計問題を精緻化する(既出)。これに対し[[@2023__OReillyJapan__機械学習システムデザイン - Chapter 9 実現場での継続学習とテスト]] §9.2は、テスト分割もバックテスト(直近データでの評価)も所詮は過去のある時点の分布を反映したものにすぎず、将来のデータでも同様にうまく機能する保証にはならないとし、モデルが実環境でうまく動作するかを知る唯一の方法はデプロイして確かめることだと述べる。5章・6章の議論が「どんなに評価データ分布の設計を工夫しても、それは所詮オフラインの近似にすぎない」という原理的な限界を持つことを、9章は正面から指摘しており、両者は「オフライン評価の質を上げる」努力(5章・6章)と「オフライン評価という枠組み自体の限界を認めオンラインへ踏み出す」判断(9章)という、異なる階層の対応であることが分かる。(Source: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]], [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 6 モデル開発とオフライン評価]], [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 9 実現場での継続学習とテスト]] §9.2) ## 未解決の問い - ストレステスト分布や細分化された分析の作成をどの程度自動化すべきか、また新しいストレステスト分布を追加する際にどのようなガバナンスプロセス(誰が承認するか、どの頻度で見直すか)を敷くべきかは、本ソースでは扱われていない。 - ゴールデンセットのデータ保持期間と、データプライバシー法による削除・アクセス期限切れリクエストとの衝突を実務上どう解決しているかの具体例は示されていない。 - 反実仮想テストで用いる合成的な反実仮想例が実データの分布からどの程度乖離すると評価結果の信頼性が損なわれるかという定量的な基準は示されていない。 - 3章が挙げる5つの脆弱性パターン(不完全な適用範囲・偽相関・コールドスタート・フィードバックループ・世界の変化)のうち、ストレステスト分布や細分化分析でどこまで検出でき、どこから検出できないかの1対1の対応関係は、両章を通じて明示的には整理されていない。特にフィードバックループと世界の変化は、事前に構築する静的な評価分布では原理的に捉えにくい可能性がある。 - 6章が挙げるクリティカルスライスの発見手法(ヒューリスティックベース・エラー分析・スライスの発見アルゴリズム)のうち、スライスの発見アルゴリズム(ビーム探索・クラスタリング・決定木でスライス候補を生成する研究)は、5章のストレステスト分布・ゴールデンセットの作成プロセスと統合的に自動化できるか。両ソースとも自動化の重要性には触れるが、具体的な統合手順は示されていない。 - 9章が主張する「実環境でのテストが必要」という結論は、本ページが集約する評価分布の設計(ホールドアウト・バックテスト・ストレステスト分布等)をどこまで置き換え、どこから補完にとどまるのか。9章はオフライン評価とオンライン評価を組み合わせる必要があると述べるにとどまり、具体的な役割分担(どの脆弱性パターンはオフラインで検出でき、どこからオンラインでしか検出できないか)までは踏み込んでいない。 ## 関連 - source: [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 5 モデルの確実性と品質の評価]] / [[@2024__OReillyJapan__信頼性の高い機械学習 - Chapter 3 MLモデルの基礎]](ホールドアウト検証データで検出できない脆弱性の具体例) / [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 6 モデル開発とオフライン評価]](スライシングの肉付け、シンプソンのパラドックス、クリティカルスライス発見の3手法) / [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 9 実現場での継続学習とテスト]](静的な評価分布設計の限界と実環境でのテストの必要性) - concept: [[MLモデルの脆弱性の所在]](評価データ分布の設計が対処しようとする検証の死角) / [[交差検証]](母集団の分割そのものを反復するという別軸の検証設計) / [[分類モデルの評価指標]] / [[回帰の評価指標]](評価データ分布と組み合わせて使う評価指標群) / [[モデル評価のベースライン]](評価指標の解釈に必要な参照点という隣接論点) / [[A-Bテスト|A/Bテスト]](静的な評価データ分布設計を補う実環境でのテスト手法) ## 出典 - Cathy Chen ほか, 『信頼性の高い機械学習 ―SRE 原則を活用した MLOps』, オライリー・ジャパン, 2024, 5章, §5.2.1, §5.2.2. - Chip Huyen 著, 江川崇・平山順一 訳, 『機械学習システムデザイン』, オライリー・ジャパン, 2023, 6章, §6.2.2.6. - [[@2023__OReillyJapan__機械学習システムデザイン - Chapter 9 実現場での継続学習とテスト]] — Chip Huyen 著, 江川崇・平山順一 訳, 『機械学習システムデザイン』, オライリー・ジャパン, 2023, 9章, §9.2.