ベイズ推定 - yuuk1's Digital Garden

# ベイズ推定 ## 定義ベイズ推定(Bayesian estimation)は、観測データ(証拠 $E$)から未知のパラメータ $p$ を推測する統計的枠組みであり、点推定にとどまらず $p$ の事後分布 $P(p|E)$ 全体を求める点で最尤推定(MLE)・最大事後確率(MAP)と一線を画す。3手法は次のように関係する。 - **最尤推定(MLE: Maximum Likelihood Estimation)**: データの尤度 $P(E|p)$ を最大化する $\hat{p} = \arg\max_p P(E|p)$ を求める。二項分布モデルでは $\hat{p} = k/n$(成功数/試行数)という直感的な形になる。 - **最大事後確率(MAP: maximum a posteriori)**: ベイズの定理 $P(p|E) = P(E|p)P(p)/P(E)$ を使い、事前分布 $P(p)$ を組み込んだうえで事後確率を最大化する $\hat{p} = \arg\max_p P(p|E)$ を求める。$P(p)$ が一様(無情報事前分布)のとき、MAP は MLE に一致する——すなわち MLE は MAP の特殊ケースである。 - **ベイズ推定**: MAP のように単一の $\hat{p}$ を求めるのではなく、事後分布 $P(p|E)$ の形そのものを利用する。分布から**最高密度区間(HDI: highest density interval)**(信用区間 credible interval とも呼ばれる)を計算し、「$p$ がこの区間に含まれる確率は95%である」という形で推定の不確実性を定量化できる。HDI は、見た目が似ている頻度主義の信頼区間(confidence interval)と解釈が異なる(信頼区間は「$p$ は固定値で、区間の側がランダムに変動する」、信用区間は「$p$ 自体が確率変数であり、その分布からこの領域に来る確率が95%」)。事前分布の選び方は推定結果を大きく左右する。事前分布への確信が強すぎると、実際にはシステムが完全にダウンしていても推定値がほとんど動かず、アラートが発報されない危険がある。データポイントが多いほど事後分布・HDI は狭くなり、推定への確信が定量的に強まる。(Source: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] §9.2.1-§9.2.3) ## 横断的知見 - 現時点では [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] のみを ingest しているため、複数ソースの突き合わせによる横断的知見は未蓄積。[[統計的機械学習]] concept が扱うベイズモデリング(ガウス事前分布→MAP推定→リッジ回帰、ラプラス事前分布→MAP推定→LASSO回帰)とは、MAP推定という数学的構造を共有しながら、応用分野(回帰の正則化対 SLI の信頼性推定)が異なる。両者を明示的に突き合わせるには [[統計的機械学習]] 側のソースを再確認する必要があり、今後の課題とする。 - **本ページが述べる「事前分布が一様(無情報)ならMAPはMLEに一致する」という関係は、ESL第8章が示す「無情報事前分布のもとでベイズ事後分布はブートストラップ分布と一致する」というより広い対応の一部である**: ESL第8章は、B-spline平滑化の例題でガウス事前分布$\beta\sim N(0,\tau\Sigma)$の分散$\tau\to\infty$の極限を無情報事前分布と呼び、この極限でベイズ事後分布・最尤推定・[[ブートストラップ法]]による分布が(ガウスモデルでは厳密に、多項分布のノンパラメトリックな場合は近似的に)すべて一致することを示す。すなわち事前分布の情報量がゼロに近づくにつれ、ベイズ推定・MAP・MLE・ブートストラップという(応用分野の異なる)4つの推定手続きが同じ点(または分布)へ収束する、という一般的構造が、SLIの信頼性推定と統計的機械学習の双方に共通して現れる。(Source: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] §9.2.1-§9.2.3, [[@2009__Springer__The Elements of Statistical Learning - Chapter 8 Model Inference and Averaging]] §8.3-§8.4) - **[[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] は、SLO第9章・ESL第8章がいずれも応用の文脈で使うベイズの定理$p(x\mid y)=p(y\mid x)p(x)/p(y)$の各項(尤度・事前分布・事後分布・エビデンス/周辺尤度)に、確率の積の規則$p(x,y)=p(y\mid x)p(x)$からの導出という形式的な根拠を与える(§6.3)。SLO・ESLがこの三者の関係を具体的な手続き・具体例を通じて導入するのに対し、MMLはこれを唯一の一般規則(積の規則)の系として位置づける——応用書が使う道具に、数学書が根拠を与えるという非対称な関係が、SLO・ESLに続いてMMLでも確認できる。(Source: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]], [[@2009__Springer__The Elements of Statistical Learning - Chapter 8 Model Inference and Averaging]], [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] §6.3) - **本ページの「未解決の問い」に挙げた正規化定数(エビデンス)$P(E)=\int P(E\mid p)P(p)\,dp$の解析的困難さに対し、MML第6章はMCMCとは異なるもう一つの部分的な回答を与える**: 尤度に[[共役事前分布|共役]]な事前分布(Definition 6.13)を選べば——たとえばベルヌーイ/二項尤度に対するベータ事前分布(Example 6.11, 6.12)——事後分布が事前分布と同じ関数形になり、正規化定数を積分計算なしにパラメータの代数的更新だけで求められる。SLO第9章のベータ二項共役(サービスの稼働率推定、§9.2.2)は、MML第6章が一般論として定式化する共役性(Table 6.2)の具体例そのものである。ただし共役な組み合わせが存在する尤度族は指数型分布族に限られる(§6.6.3)ため、MCMCと同様「特定の条件下での部分解」にとどまる。(Source: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] §9.2.2, [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] §6.6.1, §6.6.3) - **MML第9章([[ベイズ線形回帰]])は、MML第6章が一般論として与えた「共役事前分布なら正規化定数を代数的に計算できる」という回答を、ガウス尤度×ガウス事前分布という具体例で事後分布・予測分布・エビデンスの3段階すべてについて閉形式導出まで踏み込んで示す**: ベータ二項共役(SLO第9章)・ガウス-ガウス共役(MML第9章)はともに指数型分布族内の共役ペアだが、前者はスカラーの成功確率$p$の推定に、後者は多次元パラメータベクトル$\theta$を持つ回帰モデルの推定に使われる点で応用の複雑さが異なる。MML第9章はさらに、事後分布の平均$m_N$がMAP推定値$\theta_{MAP}$に厳密に一致すること、エビデンス$p(Y\mid X)=\mathcal N(y\mid Xm_0,XS_0X^\top+\sigma^2I)$がモデル選択(多項式の次数選択)に使えることまで示しており、本ページが整理した「MLE→MAP→ベイズ推定」という3段階の一般構造を、線形回帰という具体例で式レベルまで裏づける最も詳細なソースになっている。(Source: [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] §6.6.1, §6.6.3, [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 9 Linear Regression]] §9.3.3, §9.3.5) - **[[@2022__Gihyo__ディープラーニングを支える技術 - Appendix A ［厳選基礎］機械学習＆ディープラーニングのための数学]] は、ベイズの定理を「観測からモデルのパラメータを推定する」枠組みとして SLO・ESL・MML と同じ語彙(尤度・事前確率/事前分布・事後確率/事後分布)で導入したうえで、y を観測、x を推定したい対象と一般化する**: 同 Appendix A §A.3 は「本を読んでいる人が学生である確率」という具体例で $P(x|y)=P(y|x)P(x)/P(y)$ を計算し、「ベイズの定理はとくに、y が観測であり、x が何か推定したい対象の場合に使われる」と明言する。さらに「本書でベイズの定理は、観測からモデルのパラメータを推定する場合に登場し、第2章でも取り上げています」と述べ、本概念の中核である「事前分布→尤度→事後分布によるパラメータ推定」という枠組みが、統計学(SLO・ESL)や数学書(MML)だけでなくディープラーニングの実装書でも同一の定式化で共有されていることを裏づける。ただし本 Appendix は MAP・MLE・信用区間(HDI)といった推定量の違いには踏み込まず、ベイズの定理の枠組みを提示するにとどまる点で、他3ソースより抽象度は低い。(Source: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] §9.2.1-§9.2.3, [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] §6.3, [[@2022__Gihyo__ディープラーニングを支える技術 - Appendix A ［厳選基礎］機械学習＆ディープラーニングのための数学]] §A.3) - **Appendix Aが予告していた「第2章でもベイズの定理を取り上げる」という言明を、ch.2は具体的な最尤推定→MAP推定→ベイズ推定という3段階の推定原理として履行し、さらに本ページのどのソースにもない「ベイジアンニューラルネットワークの効率的近似」という新しい実務的な角度を追加する**: [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.7は、Appendix A §A.3が抽象的に示したベイズの定理の枠組みを、赤・青・黄のボールの例(観測にない色の確率を最尤推定が0と誤って推定してしまう)という具体例でMAP推定の必要性から動機づけ、事前分布にガウス分布・ラプラス分布を仮定した場合のMAP推定がそれぞれL2・L1正則化と一致することを式で示す。これはMML第9章(ベイズ線形回帰)が既に示した対応と同じ結論だが、ch.2はさらに本ページの他ソースにない論点として、パラメータの点推定にとどまらずパラメータを周辺化消去した予測値$p(x\mid D)=\int_\theta p(x;\theta)p(\theta\mid D)\,d\theta$を最終結果とするベイズ推定をニューラルネットワークに適用したベイジアンニューラルネットワーク(Bayesian Neural Network)を導入し、その計算コスト(パラメータ空間の積分)の実務的な回避策として、異なる初期値から学習した複数のニューラルネットワークのアンサンブル予測でベイズ事後分布を近似するDeep Ensembles(Fort et al., arXiv:1912.02757, 2019)を挙げ、多くの計算リソースで事後分布を直接求めた研究(Izmailov et al., ICML 2021)がDeep Ensemblesを良い近似と報告していることに触れる。これは本ページが未解決の問いに挙げた「正規化定数の解析的困難さ」への、MCMC・共役事前分布に続く**3つ目の部分的な回答**(アンサンブル近似)であり、ニューラルネットワークという高次元パラメータ空間に特化した実務的な解決策を追加する。(Source: [[@2022__Gihyo__ディープラーニングを支える技術 - Appendix A ［厳選基礎］機械学習＆ディープラーニングのための数学]] §A.3, [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]] §2.7) - **Handbook of Software Reliability Engineering ch.3(1996)の Littlewood-Verrall モデルは、本ページの他ソースが扱う単純な事前分布(一様・ベータ・ガウス)とは異なり、事前分布のパラメータ自体が観測系列の順序 $i$ に依存して変化する階層的な構造を持つ点で、本ページに新しい種類のベイズモデルの具体例を追加する**: 本ページの既存ソース(SLO・ESL・MML・DL支える技術)が扱うベイズ推定は、いずれもパラメータ $p$ や $\theta$ に対する単一の(時間不変な)事前分布を仮定する。これに対し Littlewood-Verrall モデルは、$i$ 番目の故障間隔 $X_i$ の指数分布パラメータ $\xi_i$ 自体を、ガンマ分布(パラメータ $\alpha,\psi(i)$)に従う確率変数として扱い、さらに $\psi(i)$ を $i$(修正回数の通し番号)の増加関数として定式化する。これは階層ベイズ(hierarchical Bayes)の一種で、「事前分布のパラメータそのものが観測が進むにつれて変化する」という構造を持つ。この構造により、ソフトウェアの障害修正が必ずしも信頼性を単調に改善するとは限らない(悪化しうる)という現実を、事前分布の形自体に埋め込むことができる。二項分布の成功確率推定(SLO)や線形回帰の係数推定(MML)のような「対象は変わらず観測が蓄積する」設定とは異なり、「対象(プログラムのバージョン)自体が観測のたびに変化しうる」という時系列的な設定でベイズ推定がどう拡張されるかを示す点で、本ページの既存事例を補完する。(Source: [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Chapter 3 Software Reliability Modeling Survey]] §3.6.1, [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] §9.2.2) - **Littlewood-Verrall モデルの事後分布 $h(\xi_i|\mathbf{x})$ がガンマ$(\alpha+1,\,1/(x_i+\psi(i)))$ という閉形式で得られるのは、指数尤度とガンマ事前分布が共役(conjugate)であるためであり、これは MML 第6章が一般論として与える共役性(§6.6.3)の、SLO のベータ-二項共役・MML 第9章のガウス-ガウス共役に続く3つ目の具体例になる**: 本ページはこれまで「共役事前分布があれば正規化定数を積分計算なしに代数的更新だけで求められる」という MML 第6章の一般論を、ベータ-二項共役(SLO、成功確率のスカラー推定)とガウス-ガウス共役(MML 第9章、線形回帰の係数ベクトル推定)という2つの具体例で確認してきた。Littlewood-Verrall モデルの指数尤度$\times$ガンマ事前分布という組み合わせは、ガンマ分布が指数分布の共役事前分布であるという教科書的な事実(指数分布はガンマ分布の特殊形でもある)の実務での応用例であり、応用領域(ソフトウェア信頼性の故障間隔推定)という点で他の2例とは異なる文脈から、同じ共役性の恩恵(尤度が観測されるたびに事後分布のパラメータを閉形式で更新できること)を確認する。(Source: [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Chapter 3 Software Reliability Modeling Survey]] §3.6.1.3, [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] §6.6.3) - **『Handbook of Software Reliability Engineering』の付録B(1996年発行の統計手法まとめ)は、本ページが扱うベイズ推定の解説を一切含まず、最尤法・積率法・最小二乗法という頻度主義の点推定・区間推定・分布当てはめ検定にとどまる**: 付録B §B.4は「統計手法(Statistical Techniques)」という見出しのもとでパラメータ推定・分布の特性評価・多変量解析を扱うが、事前分布・事後分布・ベイズの定理への言及は一度も現れない。一方で同書ch.3(§3.6.1)は Littlewood-Verrall モデルという階層ベイズの実例を提示し、指数尤度とガンマ事前分布の共役性から事後分布を導出する。同一書籍内で、数学的下敷きを提供するはずの付録がベイズ推定を扱わないまま、本文の一章がベイズモデルを実務適用する非対称な構成になっている——これは1996年時点の教科書的な信頼性理論のレビューにおいて、ベイズ統計がまだ「主流の共通言語」としては扱われておらず、個々の応用章が必要に応じて独自に持ち込む発展的手法だったことを示唆する。(Source: [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Appendix B Review of Reliability Theory, Analytical Techniques, and Basic Statistics]] §B.4, [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Chapter 3 Software Reliability Modeling Survey]] §3.6.1) ## 未解決の問い - MAP 推定における事前分布の選択と、正則化回帰(リッジ回帰・LASSO)における正則化項の選択は、数学的に同型([[統計的機械学習]] 参照)であるにもかかわらず、実務でのパラメータ選定の作法(交差検証対ドメイン知識に基づく事前分布設計)はどこまで相互に転用できるか。 - ベイズ推定の事後分布計算で必要になる正規化定数 $P(E) = \int P(E|p)P(p)\,dp$ は一般には解析的に求まらない(§9.2.3)。**部分的な手がかり**: ESL第8章§8.6は、事後分布から直接サンプリングして正規化定数の計算を回避するMCMC手法(ギブスサンプリング、[[EMアルゴリズム]]の項参照)を一般的な計算装置として紹介しており、条件付き分布が扱いやすい設定ではこれが実務的な解になりうる。ただしSRE実務のSLI推定という具体的な文脈での適用可否は本ページの2つのソースいずれの範囲外であり、依然未解決。 - 稼働/ダウンの2つの事前分布を混合するモデル(§9.2.2.3)は、より一般に複数の運用状態を持つサービスにどこまで拡張できるか。ESL第8章の2成分混合モデル([[EMアルゴリズム]]参照)は潜在変数(どちらの状態から来たか)を明示的に推定するEMアルゴリズムで最尤推定するが、SLOの文脈でこの潜在変数付きの定式化が有用かは未検討。 - MML第6章は共役事前分布が存在する尤度族(指数型分布族)を明示するが(§6.6.3)、SLOのような実務でモデル化したい尤度(稼働/ダウンの混合事前分布、§9.2.2.3)が指数型分布族の枠を超える場合、共役性によるエビデンス計算の利点(代数的更新だけで済むこと)をどこまで部分的に活かせるか(局所的な共役近似の利用等)は未検討。 - Deep Ensembles(ch.2 §2.7)がベイジアンニューラルネットワークの事後分布の「良い近似になっている」とする根拠は、ch.2では結論の紹介にとどまる。どのようなモデル規模・データ量でこの近似が悪化するかは本ページのソースの範囲外。 - Littlewood-Verrall モデルの $\psi(i)$(ガンマ事前分布の尺度パラメータ)を $i$ の増加関数とする設計は、階層ベイズにおける「事前分布のパラメータをデータや文脈に応じて変化させる」という考え方の一種と見えるが、これは経験ベイズ(empirical Bayes、事前分布のパラメータをデータから推定する)とどう異なるのか、本ページの他ソースには経験ベイズの扱いがなく比較できない。両者の異同を整理する必要がある。 ## 関連 - ソース: [[@2023__OReillyJapan__SLO サービスレベル目標 - Chapter 9 SLIとSLOの確率と統計]] / [[@2009__Springer__The Elements of Statistical Learning - Chapter 8 Model Inference and Averaging]] / [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 6 Probability and Distributions]] / [[@2020__Cambridge__Mathematics for Machine Learning - Chapter 9 Linear Regression]](ガウス-ガウス共役の閉形式ベイズ線形回帰) / [[@2022__Gihyo__ディープラーニングを支える技術 - Appendix A ［厳選基礎］機械学習＆ディープラーニングのための数学]] / [[@2022__Gihyo__ディープラーニングを支える技術 - Chapter 2 ［入門］機械学習]](MAP推定の動機づけ・ベイジアンニューラルネットワーク・Deep Ensembles) / [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Chapter 3 Software Reliability Modeling Survey]](Littlewood-Verrall モデルの階層的ガンマ事前分布) / [[@1996__McGrawHill__Handbook of Software Reliability Engineering - Appendix B Review of Reliability Theory, Analytical Techniques, and Basic Statistics]](同書内でベイズ推定を扱わない対照例) - 概念: [[統計的機械学習]](MAP推定と正則化の数学的対応) / [[サービスレベル目標]](SLI推定への応用文脈) / [[待ち行列理論]](同章で扱われる隣接トピック) / [[ブートストラップ法]](無情報事前分布下でのベイズ事後分布との対応) / [[EMアルゴリズム]](潜在変数を持つベイズモデルの計算) / [[共役事前分布]](事後分布の代数的更新可能性という数学的基礎) / [[ガウス分布の閉性]](ガウス尤度・ガウス事前分布の場合の共役性) / [[ベイズ線形回帰]](線形回帰への具体的適用) / [[最尤推定]](MLE→MAP→ベイズ推定の3段階を導入するch.2側の詳細) / [[ソフトウェア信頼性成長モデル]](Littlewood-Verrall モデルの応用文脈) - 実体: [[wiki/entities/ディープラーニングを支える技術|ディープラーニングを支える技術]] / [[William Farr]] ## 出典 - Alex Hidalgo(編), Toby Burress・Jaime Woo(著), 『SLO サービスレベル目標』, オライリー・ジャパン, 2023, 9 章, §9.2.1-§9.2.3。 - Deisenroth, Faisal, Ong, *Mathematics for Machine Learning*, Cambridge University Press, 2020, Chapter 6, §6.3, §6.6; Chapter 9, §9.3。 - 岡野原大輔, 『ディープラーニングを支える技術』, 技術評論社, 2022, Appendix A §A.3; 第2章 §2.7。 - William Farr, "Software Reliability Modeling Survey", in Michael R. Lyu (ed.), *Handbook of Software Reliability Engineering*, IEEE Computer Society Press / McGraw-Hill, 1996, Chapter 3, §3.6.1。 - Michael R. Lyu (ed.), "Review of Reliability Theory, Analytical Techniques, and Basic Statistics", *Handbook of Software Reliability Engineering*, IEEE Computer Society Press / McGraw-Hill, 1996, Appendix B, §B.4。