> [!abstract] 概要(arXiv abstract の日本語訳) > 複雑系における根本原因分析(RCA)は、複数変数にまたがる誤差伝播、構造的な因果知識の必要性、テスト時における推論の計算コストのために困難である。本論文では PRIM(Prior-fitted Root cause Identification with Meta-learning)を導入する。これは RCA を因果モデルの事前分布上でのベイズ推論タスクとして定式化する、因果的メタ学習アプローチである。構造的不確実性を周辺化することで、PRIM はベースライン期間と異常期間の間でデータ生成機構がどこで変化したかを暗黙的に見つけ出す。これにより PRIM は明示的な統計的検定なしに分布の差異を推論し、テスト時のモデル適合なしに因果構造を暗黙的に学習する。prior-fitted networks のシミュレーションベースのメタ学習パラダイムに従い、PRIM は Model-Averaged Causal Estimation(MACE)transformer neural process を用いる。これは観測サンプルと異常サンプル、およびノード間の構造的依存関係の両方に同時にアテンションを向け、最大100変数のシステムに対して17ミリ秒でのゼロショット推論を可能にする。合成ベンチマークおよび2つの実践的なベンチマークデータセット(PetShop と CausRCA)を通じて、PRIM はシステムの因果グラフ構造を事前に知っている手法と競合する性能を示しつつ、いくつかのタスクではグラフ非依存の手法を上回る。特定ドメインとデータダイナミクスへの軽量なファインチューニングにより、性能はさらに向上する。 ## 論文情報 - タイトル: PRIM: Meta-Learned Bayesian Root Cause Analysis - 著者: Christopher Lohse(University of Dublin, Trinity College / IBM)、Anish Dhir(Gatsby Computational Neuroscience Unit, UCL)、Amadou Ba(IBM)、Bradley Eck(IBM)、Marco Ruffini(University of Dublin, Trinity College)、Jonas Wahl(DFKI / University of Bergen) - 媒体: arXiv preprint(Preprint 表記、査読情報なし) - arXiv ID: 2605.08786(v3、2026-05-28) - URL: https://arxiv.org/abs/2605.08786 ## 概要 PRIM は、根本原因分析(RCA)を「因果グラフと機能的メカニズムの不確実性をベイズ的に周辺化した上で根本原因ノード集合 $T$ の事後分布を推定するタスク」として再定式化し、事前分布からシミュレーションした大量の合成 SCM(構造的因果モデル)データで transformer neural process をメタ学習することで、テスト時に因果探索や統計的検定を一切行わずに単一のフォワードパスで根本原因を推定する手法である。合成ベンチマーク・PetShop・CausRCA の評価を通じて、グラフ非依存(graph-not-given)手法群の中で高い性能と圧倒的な推論速度(17ms)を両立することを示した。 ## 問題設定 - **入力**: 正常期間の観測データ $D^{obs}$、異常期間の介入データ $D^{int}$、どのノードで異常が観測されたかを示す症状マスク $m \in \{0,1\}^K$(Budhathoki et al. [3], Ikram et al. [17] の定式化を踏襲)。 - **出力**: 根本原因として介入を受けたノード集合 $T \subseteq \{1,\dots,n\}$ の事後分布。 - **前提**: 変数 $X=(X_1,\dots,X_n)$ の因果関係は非巡回 SCM(有向非巡回グラフ $G$)で表現される。根本原因は $T$ に対するソフト介入(条件付き分布 $P(X_j\mid pa_j)$ を変更するが辺は保持)または部分的にハード do-介入としてモデル化される。$m$ は常に既知であることを仮定する(標準的な RCA 設定)。 - **識別可能性の理論的基盤**: Squires et al. [44] の I-faithfulness(I-忠実性)を軸に、非巡回 SCM・因果十分性(潜在交絡因子なし)・非ターゲットのメカニズム不変性という仮定の下で、$T$ が観測データと介入データ + 症状マスクから識別可能であることを Appendix A.2 で導出する(グラフ $G$ 自体は必ずしも一意に復元可能でなくてよい)。 ## 提案手法 - **アーキテクチャ**: Dhir et al. [8] が介入分布推定のために提案した MACE-TNP(Model-Averaged Causal Estimation Transformer Neural Process)を RCA 用に改変。DataEncoder → L 層の MACE Transformer Block → Decoder の3段構成(Figure 1)。DataEncoder は観測データ $D^{obs}\in\mathbb{R}^{n_{obs}\times K}$・介入データ $D^{int}\in\mathbb{R}^{n_{int}\times K}$ の各スカラー値を線形射影しノード位置埋め込みを加算してテンソル $H^{obs}, H^{int}\in\mathbb{R}^{n\times K\times d}$ を得る。症状マスク $m$ は学習済みターゲット埋め込みとして $H^{int}$ に加算される。 ![[_attachments/arxiv-2605.08786/fig01-architecture.png]] (Figure 1. PRIM のアーキテクチャ。L 個の MACE-TNP ブロックが観測/介入埋め込みをサンプル方向・ノード方向の交互アテンションで精緻化する。差分 $\Delta = \bar H^{int} - \bar H^{obs}$ をノードごとのロジット $\hat T \in \mathbb{R}^K$ にデコードする。Source: Adapted from Figure 1.) - **MACE Transformer Blocks(3種類のアテンション)**: (1) obs self-attention — 各ノードについて観測サンプル同士が相互に注意を向ける、(2) int→obs cross-attention — 介入サンプルが観測サンプルを key/value として注意を向ける、(3) node self-attention — 全サンプルが K 個のノード位置にまたがって同時に注意を向ける。各操作の後に残差接続 + LayerNorm、共有 MLP でブロックを閉じる。L=8 層。 - **デコード**: L 層通過後、両ストリームをサンプル方向に平均プーリングして差分を取る $\Delta = \frac{1}{n_{int}}\sum_s H_s^{int} - \frac{1}{n_{obs}}\sum_s H_s^{obs} \in \mathbb{R}^{K\times d}$(式3)。この差分演算が「異常分布と正常分布の差異検定」を暗黙的に実行する部分であり、学習可能なプーリングは今回の学習予算内で固定平均プーリングを上回らなかったため不採用。2層 MLP デコーダが各ノード埋め込みをロジット $\hat T = c_\psi(\Delta) \in \mathbb{R}^K$ に写像する。 - **可変グラフサイズへの対応**: Hollmann et al. [14, 15] のパディング戦略に従い、$k \le K_{max}$ の実ノードを $K_{max}$ までゼロパディングし、実ノード値は $K_{max}/k$ 倍にスケーリングして活性化の大きさを一定に保つ。バイナリのパディングマスクを全 MACE 層のノード方向アテンションに key padding mask として適用し、各 LayerNorm 後にパディング位置を明示的に再ゼロ化する。推論時はパディング位置のロジットを softmax 前に $-\infty$ に設定する。 - **学習目的**: 合成 SCM の分布 $p(M)$ から抽出した $(D^{obs}, D^{int}, T)$ に対し、交差エントロピー損失 $\mathcal{L} = \mathbb{E}_M \mathbb{E}_{T,D|M}[\ell(c_\psi(\Delta), T)]$ を最小化する(式訳: $\ell(\hat y, y) = -\sum_k y_k \log \hat y_k$)。 - **実装上の工夫(事前分布の設計)**: 各学習エピソードは Erdős–Rényi・Barabási–Albert・bipartite のいずれかからランダム DAG を $K \sim \mathrm{Unif}(K_{min}, K_{max})$ ノードでサンプルし、期待入次数 $\bar d \sim \mathrm{Unif}(1.8, 2.5)$ で疎グラフとする(実運用の RCA 設定が疎グラフになりやすいことを反映)。構造方程式は linear・tanh・neural network・Gaussian process・constant-baseline の5族から一様にサンプルされ、ヘテロスケダスティックまたは族固有のノイズを持つ。介入は weight-change(80%)・additive shift(15%)・hard do-intervention(5%)の3種類。データは z-score 正規化後 ±10 にクリップされ(実運用の監視シグナルの動的範囲を模擬)、症状マスク $m$ は介入ノード自身または一様サンプルされた子孫ノードに設定される。 ![[_attachments/arxiv-2605.08786/fig05-data-generation.png]] (Figure 5. データ生成プロセスの概要。因果グラフ $G$ と機能的メカニズム $f$ をサンプルして SCM を定義。観測データ $D^{obs}$ を祖先サンプリングで生成した後、ターゲットノード $t_j \in T$ を選び、SCM をソフト介入($f^{obs}\to f^{int}$)またはハード do-介入で摂動する。介入データ $D^{int}$ を摂動後の SCM からサンプルする。Source: Figure 5.) - **ファインチューニング**: ゼロショットでも動作するが、対象システムに近い事前分布での軽量ファインチューニングで性能向上が可能。全パラメータ更新の full-model finetuning とデコーダのみ更新する decoder-only finetuning の2種を検討。実験的には、posterior が学習事前分布に近い場合は decoder-only で十分(Appendix D.2)。実世界ベンチマーク(PetShop・CausRCA)では decoder-only finetuning を採用し、PetShop は1×A100で121秒、CausRCA は258秒で完了する(Table A.3)。 ## 新規性 - 既存の因果推論ベース RCA 手法(CIRCA・RCD・BARO 等)は、因果グラフを既知として仮定する(グラフベース)か、テスト時に因果探索アルゴリズムを実行する(グラフ非依存だが計算コストが変数数に対して超指数的にスケール)かのいずれかに二分される。統計的検定手法(ε-diagnosis・RCD)もデータ点数・変数数の増加に伴い低速化する。PRIM は、これら「点推定への収束」を避けるベイズ的モデル平均化(グラフ $G$ と機能的メカニズム $f$ の不確実性を周辺化する事後分布、式(1))を、テスト時の推論コストなしに実現する点で新規性を持つ。 - Dhir et al. [7, 8]; Robertson et al. [37] のベイズ因果メタ学習の定式化を、因果発見や介入分布推定ではなく RCA(根本原因ノード集合 $T$ の直接推定)に適用した初めての研究である。従来の TNP/PFN(Prior-Fitted Network)応用が分類・異常検知・時系列予測([14][15][16])に限られていたのに対し、合成事前分布が因果的な根本原因分析にも汎化することを示した。 - 二段階パイプライン(因果探索 → RCA スコアリング)を単一のフォワードパス $(D^{obs}, D^{int}, m) \to T$ に統合し、分布シフトの明示的な統計検定([40; 17; 13] 等)を不要にした。 ## 実験設定 - **合成データ**: Dhir et al. [8] の構造を RCA 向けに適応した3種類の統制実験。(1) 三ノード confounder/mediator シナリオ(構造的曖昧性のテスト)、(2) グラフサイズを変えたスケーラビリティ分析、(3) 単一障害から複数障害への転移をテストする多根本原因シナリオ。メカニズムは Neural Network(NN)と Gaussian Process(GP)の2種。評価は200エピソードにわたる90%ブートストラップ信頼区間(500リサンプル)。 - **ハードウェア/実装**: 小・中モデルは4×A100-80GB、大モデル(PRIM-L, $K_{max}=100$)は8×A100-80GBで学習。埋め込み次元 $d=160$、$L=8$ MACE 層、8アテンションヘッド、MLP 隠れ層512、dropout 0.1。大モデルは480,000個の異なる SCM から1,920,000サンプルで学習(Table A.3)。 - **実世界データセット**: - **PetShop**[13](CC Public License): AWS Observability Workshop ベースのマイクロサービスデータセット。約44サービス、レイテンシ・可用性メトリクスを監視。4トラフィックシナリオにわたる48件の障害注入問題、各シナリオが単一根本原因を持つ。$D^{obs}$ は正常ベースライン期間($|D^{obs}| \in \{589, 1652\}$)、$D^{int}$ は異常期間(5分スナップショット5件)。症状マスク $m$ はエントリーポイントサービス(PET SITE)を示す。 - **CausRCA**[29](Apache License 2.0): 部分的に実データ・部分的にシミュレーションされた工場システム。19件の障害注入実験にまたがる100回の実行(probe: 34, coolant: 25, hydraulics: 41 の3サブシステム)、複数の同時根本原因を持つ。平均 $|D^{obs}|=196$、$|D^{int}|=123$(500msの離散化)。 - **比較手法**: PetShop ベンチマークで使われる手法群のうち実装が公開されているもの — Traversal(グラフ既知)・CIRCA(グラフ既知、線形ガウス SCM 適合 + 条件付き変化検定)・ε-diagnosis(2標本検定)・RCD(局所因果発見)・Ranked Correlation(相関ベース)。反実仮想帰属(実行時間が禁止的)・Meta-RCA(LLM 依存、コード非公開)・TimeRank/CausTR/BARO(合成セットアップに存在しない時系列データが必要)は除外。 - **評価指標**: 単一根本原因設定は Recall@k(正解が上位k件に含まれれば1、そうでなければ0)、複数根本原因設定は全ての正解のランキング品質を反映する MAP@k。 - **ファインチューニング用シミュレータ**: PetShop 向けは Lohse et al. [26] のマイクロサービスシミュレータ(3–15ノード、200環境、cpu_leak/memory_leak/degradation の3障害種)を使用。CausRCA 向けは CausRCA のイベント駆動型工業システム構造を模した合成データ(平均回帰 AR(1) 過程 + ホップ距離に応じた障害伝播減衰、時間を特徴量として付加)を使用。 ## 実験結果 - **Confounder / Mediator(3ノード)**: $n_{obs}=100, n_{int}=10$ において、PRIM はグラフ非依存手法の中で最良、最も近い競合手法は RCD。グラフ既知手法(Traversal・CIRCA)にはわずかに劣る。confounder 構造は mediator よりグラフ非依存手法全般にとって困難、GP メカニズムは NN より困難(GP は分布の変化がノイズ構造に限定されるため)。$n_{int}$ の増加は $n_{obs}$ の増加より性能への寄与が大きい(Figure 2)。 ![[_attachments/arxiv-2605.08786/fig02-confounder-mediator.png]] (Figure 2. 三ノードの confounder 対 mediator シナリオ。X(赤)が根本原因、下流ノード(オレンジ)は子孫、無関係なノードは白。Source: Figure 2.) - **多根本原因識別(6ノード DAG)**: 固定 $n_{obs}=100$ において、ファインチューニング版は $n_{int}$ の増加に伴いベースモデルを大きく上回り、GP メカニズムでの扱いもより頑健になる。ベースモデルでもチャンスレベルの MAP@2(≈0.27)を十分な介入サンプル数で上回り、単一障害学習が多障害設定に部分的に転移することを示唆する。 ![[_attachments/arxiv-2605.08786/fig03-multi-root-cause.png]] (Figure 3. 6ノード DAG(左)における多根本原因評価。$X_1, X_2$(赤)が根本原因、$X_3, X_4, X_6$(オレンジ)は子孫、$X_5$(白)は無関係。MAP@2 は両方の根本原因が上位2件に入るかを測る。実線: ゼロショット、破線: 多障害 DAG でファインチューニング。Source: Figure 3.) - **ノード数スケーラビリティ**: $n_{obs}=100, n_{int}=10$ で全ベースラインを GP・NN の両設定において上回り、真のグラフにアクセスできる手法をも凌駕する。グラフサイズが増加してもPRIM-L の Recall@1 劣化は他手法より緩やか。CIRCA は GP 設定で最強の競合手法、NN 設定では小規模グラフ(~20ノードまで)で CIRCA が優位、大規模になると RCD が競合的になる。推論時間は大規模モデルで一貫して17ms(単一フォワードパスのため)、他手法はノード数に対して指数的にスケールする。MacBook Pro M3 Max では CPU で約280ms、MPS GPU で約35msで動作(Figure 4, Table C.2)。 ![[_attachments/arxiv-2605.08786/fig04-scalability.png]] (Figure 4. ノード数に対する Recall@1($n_{obs}=100, n_{int}=10$)。Source: Figure 4.) - **PetShop(Top-3 recall, Table 1)**: グラフ非依存手法の中で PRIM-FT が最高平均 recall(0.65)を達成し、高トラフィックシナリオ以外の全グラフ非依存ベースラインを上回る。高トラフィックシナリオでは負荷ノイズが事前分布・ファインチューニングシミュレータで捉えられておらず性能が低下する。低可用性・時間的可用性シナリオでは PRIM-FT はグラフ既知の Traversal・CIRCA と同水準に達し、44ノードシステムでも事前分布が問題領域をよく捉えていれば構造的知識の欠如を補えることを示す。 | traffic | metric | Traversal(graph) | CIRCA(graph) | RCD | Corr | PRIM | PRIM-FT | |---|---|---|---|---|---|---|---| | low | latency | 0.57 | 0.86 | 0.21 | 0.57 | 0.40 | 0.60 | | low | availability | 1.00 | 1.00 | 0.75 | 0.92 | 1.00 | 1.00 | | high | latency | 0.79 | 1.00 | 0.07 | 0.79 | 0.00 | 0.40 | | high | availability | 1.00 | 0.00 | 0.00 | 0.92 | 0.25 | 0.25 | | temporal | latency | 1.00 | 1.00 | 0.75 | 0.75 | 0.83 | 0.83 | | temporal | availability | 1.00 | 1.00 | 0.75 | 0.75 | 0.83 | 1.00 | | **average** | | **0.86** | 0.81 | 0.39 | 0.78 | 0.50 | 0.65 | (Table 1. PetShop データにおける RCA 手法群の Top-3 recall。太字は行全体での最良値、青字相当(表中太字で代替)はグラフ非依存手法内の最良値。Source: Table 1、graph-given列の一部・counterfactual・ε-diag.は簡略化のため割愛。) - **CausRCA(MAP@3, Table 2)**: PRIM-FT はフルシステム評価・サブシステム評価の両方でグラフ非依存の最良手法。coolant・hydraulics サブシステムではグラフ既知手法に匹敵し、サブシステム平均では真のグラフを使うドメイン特化手法 CausTR より0.01ポイント低いのみ。フルシステム設定はより困難で、無警報時に多くのセンサーが定数値を報告する(事前分布に十分反映されていないレジーム)ためベースモデルの性能が下がるが、ファインチューニングでこのギャップが大幅に縮小する。probe サブシステムは固有の障害シグネチャのため性能が低いままである。 | Dataset | | CausTR(graph) | RandWalk | PageRank | TimeRank | Baro | PRIM | PRIM-FT | |---|---|---|---|---|---|---|---|---| | Coolant | Full | 0.99 | 0.00 | 0.00 | 0.35 | 0.00 | 0.55 | 0.63 | | Coolant | Sub | 1.00 | 0.14 | 1.00 | 0.85 | 0.88 | 0.75 | 0.96 | | Hydraulics | Full | 0.74 | 0.00 | 0.11 | 0.18 | 0.26 | 0.61 | 0.66 | | Hydraulics | Sub | 0.74 | 0.14 | 0.98 | 0.47 | 0.75 | 0.87 | 0.91 | | Probe | Full | 0.57 | 0.00 | 0.00 | 0.19 | 0.00 | 0.00 | 0.00 | | Probe | Sub | 0.58 | 0.32 | 0.26 | 0.47 | 0.63 | 0.18 | 0.45 | | **average** | Full | **0.77** | 0.00 | 0.04 | 0.24 | 0.09 | 0.39 | 0.43 | | **average** | Sub | 0.78 | 0.20 | 0.75 | 0.60 | 0.75 | 0.61 | **0.77** | (Table 2. CausRCA ベンチマークにおける RCA アルゴリズムの MAP@3。Source: Table 2、graph-given 列の CausTR+PC は簡略化のため割愛。) - **識別可能性のサニティチェック(Appendix D.1)**: Dhir et al. [8] に倣った2ノードグラフ(識別可能 / 非識別可能な線形ガウスモデル [12])での評価では、観測データのみから因果グラフが非識別であっても PRIM は正しく根本原因を特定できることを確認した。これはベイズ事後分布が $m$ と $D^{int}$ に整合しないグラフに低い確率を割り当てるためであり、識別可能性の有無で結果に差が出ないことが理論の予測どおり実証された。 - **ファインチューニングの比較(Appendix D.2)**: 遠い分布外(sinusoidal メカニズム、学習事前分布に完全に不在)では full-model finetuning が decoder-only を明確に上回る($n_{int}=1$ で recall ≈0.70 対 ≈0.45)。近い分布外(同一 NN メカニズム族だが介入強度を弱めた設定)ではゼロショットの時点で高性能(≈0.83)であり、decoder-only finetuning がほぼ full-model finetuning に匹敵する。 ## 考察 - PRIM の中心的な主張は、「Bayesian model averaging over graph and functional mechanism uncertainty」が有限サンプル・非識別性の問題を緩和し、点推定的な因果探索に伴う誤帰属リスクを避けるという点にある。実験結果は、識別可能性が崩れる設定でも性能が劣化しないことでこの主張を裏付ける。 - 推論時間の一貫性(単一フォワードパス、17ms)は、グラフサイズに応じて指数的にスケールする既存手法(Traversal + 因果探索、CIRCA、RCD 等)との対比において、実運用上の優位性として明確に示されている。 - 実世界ベンチマークでの性能は「事前分布が対象システムをどれだけよく捉えているか」に強く依存する(PetShop 高トラフィックシナリオ・CausRCA probe サブシステムでの性能低下)。ファインチューニングはこのギャップを埋めるが完全には解消しない。 ## 強み / 弱点・課題 **強み** - グラフ非依存でありながら、グラフ構造の不確実性を確率的に扱う(ベイズモデル平均化)という、既存の「グラフ既知」対「グラフ探索」の二分法にない第三の設計を提示する。 - 単一フォワードパスによる一定の推論時間(最大100変数で17ms)は、超指数的にスケールする既存因果探索ベースRCA手法に対する明確な実用上の優位性。 - 軽量ファインチューニング(PetShop で121秒、CausRCA で258秒)により、ゼロショットのままでも実用的な出発点を提供しつつドメイン適応が可能。 **弱点・課題(論文の Limitations 節に基づく)** 1. $T$ の識別可能性は Appendix A.2 に列挙された仮定(非巡回 SCM、因果十分性、非ターゲットのメカニズム不変性、I-忠実性、観測された異常が機構変化に由来すること)に依存し、潜在交絡因子や忠実性違反があると理論的保証が崩れる。 2. 事前分布の誤設定(misspecification)が精度を低下させうる。PetShop の高トラフィックシナリオ、CausRCA の probe サブシステムでこれが実証されている。モデルアーキテクチャと基礎事前分布の構築の両方に改善余地が残る。 3. PRIM は既知の真の因果グラフが利用可能な場合でもそれを活用できない設計であり、グラフ既知手法が持つ追加情報の恩恵を原理的に受けられない。 4. Recall@1(Appendix D.6, Table C.3)ではグラフ非依存手法内でも PRIM/PRIM-FT が Traversal・CIRCA・Corr に劣後する設定が複数あり(例: PetShop 平均 Recall@1 で PRIM=0.29, PRIM-FT=0.33 に対し Corr=0.65)、Top-3 recall(Table 1)での優位性ほど一貫していない。