# 教師あり学習 ## 定義 教師あり学習(supervised learning)とは、入力 $x$ と望ましい出力 $y$ のペアからなる訓練データ $D=\{(x^{(1)},y^{(1)}),\ldots,(x^{(N)},y^{(N)})\}$ を用いて、入力から出力を予測する関数 $y=f(x;\theta)$ を学習する手法である。現在最も広く使われている学習手法であり、学習(training、パラメータを調整するフェーズ)と推論(inference、学習済みモデルで新しいデータの出力を予測するフェーズ)の2つのフェーズからなる。代表的なタスクには、画像分類(画像→ラベル)、音声認識(音声→書き起こし文字列)、スパムメール分類(メール本文→判定結果)、化合物評価(構造式→アッセイ値)があり、推定対象が離散値・カテゴリ値なら分類問題、連続値なら回帰問題と呼ぶ。(Source: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.4) ## 教師あり学習と強化学習の違い 教師あり学習と[[強化学習]]は、いずれも外から与えられた教師信号をもとに目的関数を最適化するという点で似ているが、次の3点で異なる。 1. **i.i.d.を仮定するか**: 教師あり学習は各データが同じ分布から独立に生成されている(i.i.d.)ことを仮定する。強化学習では観測・報酬の分布が時刻や自分の行動に依存して変化する。 2. **受動的か能動的か**: 教師あり学習の訓練データは受動的に与えられるが、強化学習では自分が行動してはじめて観測が得られる。 3. **フィードバックが直接的か間接的か**: 教師あり学習はどう修正すればよいかという直接的なフィードバックを得られるが、強化学習は報酬という間接的なフィードバックしか得られず、今の行動が最適だったかは学習手法自身が推測する必要がある。 教師あり学習でもi.i.d.を仮定しない場合として、学習時と推論時の入力分布が異なる共変量シフト(covariate shift)や、学習時と推論時で環境自体が異なるドメイン適応(domain adaptation、シミュレーターで学習し実世界で推論する等)がある。(Source: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.4) ## 学習パイプラインとしての具体化 教師あり学習は、(1) 訓練データを用意する、(2) 学習対象のモデルを用意する、(3) 損失関数を設計する、(4) 損失関数の平均から目的関数(訓練誤差+正則化)を導出する、(5) 最適化問題を解く、(6) 学習済みモデルを評価する、という6ステップに具体化できる。詳細は [[損失関数]]・[[経験リスク最小化]]・[[勾配降下法]]・[[正則化]]・[[汎化能力]] を参照。(Source: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.6) ## 横断的知見 - **SRE向け実務入門(2018年)は、教師あり学習の代表タスクとして本ページには無い「入力に欠落がある分類」を挙げる**: 『SREの探求』第18章は、教師あり学習の一般的なタスクとして分類・回帰に加え「入力に欠落がある分類」(入力の一部が欠落している場合、学習アルゴリズムは1つの分類関数でなく一連の関数を学習しなければならない)を挙げる。本ページが積み増した『ディープラーニングを支える技術』第2章の記述は、共変量シフト・ドメイン適応というi.i.d.の破れ方は扱うが、入力側の欠測という切り口には触れていない。同章はサーバーのCPU・RAM・ストレージ使用率から健全性を分類する[[決定木]]の実践例を示し、「分類」タスクを具体的な運用データに即して提示している点で、専門書の理論的定式化を補完する。(Source: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.4, [[@2021__OReillyJapan__SREの探求 - Chapter 18 SREのための機械学習入門]] §18.4.1, §18.6.2.2) - **教師あり学習の回帰モデルは、分類・健全性判定だけでなく、設備運用の連続値を予測する用途にも使える**: [[@2014__Google__Machine Learning Applications for Data Center Optimization]] は、19個の設備・負荷・気象特徴量から連続値のPUEを予測するニューラルネットワークを構築し、平均絶対誤差0.004、標準偏差0.005を報告する。[[決定木]]によるサーバー健全性の分類と対比すると、同じ教師あり学習でも運用データから離散ラベルを推定する系統と、設備効率の連続量を回帰する系統がある。(Source: [[@2014__Google__Machine Learning Applications for Data Center Optimization]], [[@2021__OReillyJapan__SREの探求 - Chapter 18 SREのための機械学習入門]]) ## 未解決の問い - 共変量シフト・ドメイン適応が生じる場合、通常の経験リスク最小化はどこまで有効で、どこから重要度重み付けなどの補正が必要になるか。 - 「訓練データが網羅的かサンプリングか」「ワンショットか逐次的か」「フィードバックが教師的か評価的か」という[[学習問題設定の分類]]の3軸のうち、教師あり学習は「サンプリング・ワンショット・教師的」に対応するとされるが、構造出力の教師あり学習(サンプリング・逐次的・教師的)との境界はどこにあるか。 - 時系列順をシャッフルせずに将来期間をテストする場合、データセンターの設備構成や気象条件の変化に対するPUE回帰の汎化性能はどの程度保たれるか。 ## 関連 - source: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] / [[@2021__OReillyJapan__SREの探求 - Chapter 18 SREのための機械学習入門]] - concept: [[教師なし学習]] / [[強化学習]] / [[自己教師あり学習]] / [[学習問題設定の分類]] / [[経験リスク最小化]] / [[損失関数]] / [[汎化能力]] / [[決定木]] ## 出典 - 岡野原大輔, 『ディープラーニングを支える技術』, 技術評論社, 2022, 第2章, §2.4, §2.6. - [[@2021__OReillyJapan__SREの探求 - Chapter 18 SREのための機械学習入門]] §18.4.1, §18.6.2.2.