# Federated Transfer Learning for Anomaly Detection in HPC Systems: First Real-World Validation on a Tier-0 Supercomputer > [!abstract] 概要(abstract の日本語訳) > 高性能計算(HPC)システムは、運用信頼性を確保するために知的でスケーラブルな異常検知をますます必要としている。 > しかし、従来の中央集約的な手法は、データプライバシー制約、異質なノード間での汎化の弱さ、スケーラビリティの限界にしばしば苦しむ。 > 本研究は、運用級の Tier-0 スーパーコンピュータにおける異常検知への連合転移学習(federated transfer learning, FTL)の、初の実世界適用を提示する。 > 連合学習と転移学習を組み合わせることで、提案フレームワークは、生データにアクセスすることなく、分散したモデル訓練と未見ノードへの個人化適応を可能にする。 > 我々は Marconi100 スーパーコンピュータの 100 ノードから収集した 2 つの大規模テレメトリデータセットを用いて手法を検証し、教師あり・半教師あり・教師なしの各学習パラダイムにわたって有効性を評価する。 > 結果は、FTL が連合訓練に参加しなかったノード上の異常検知性能を一貫して改善し、F1 スコアの利得が最大 0.50 に達することを示す。 > これらの改善は、同一分布でないデータにわたって汎化し、実世界条件の下で検知精度を維持するフレームワークの能力を実証する。 > 本研究は、HPC 環境における障害検知のためのスケーラブルでプライバシーを保つ解として FTL を位置づける。 > 本番ハードウェア上での実用的配備は、大規模で異質な計算システムにおけるリアルタイム監視応用への準備が整っていることを確認する。 ## 論文情報 - 著者: [[Emmen Farooq]](責任著者), [[Michela Milano]], [[Andrea Borghesi]]([[University of Bologna]] / DISI) - 掲載: Expert Systems With Applications 298 (2026) 129754 - 受理〜公開: 2025-07-04 受稿、2025-09-14 受理、2025-09-18 オンライン公開 - DOI: https://doi.org/10.1016/j.eswa.2025.129754 - 実装: https://github.com/EmmenFarooq/ftl-hpc-anomaly-detection - データ: D2 は Zenodo (https://zenodo.org/records/7589942)。全体は要請により提供、と記載 - 実験対象: [[CINECA]] の Tier-0 [[Marconi100]](IBM POWER9 + NVIDIA V100、900+ ノード規模) ## 概要 中央集約型の異常検知は、ノード間の非 IID テレメトリ・プライバシー・スケールの制約に弱い。連合学習(FL)は生データを局所に保ちつつ参加ノードで訓練できるが、非参加ノードへの知識転移は弱い。転移学習(TL)は適応に有効だがプライバシーと分散スケールを単独では満たさない。本論文は両者を組み合わせた連合転移学習(FTL)を、実運用 Tier-0 上で教師あり・半教師あり・教師なしの 3 パラダイムにわたって検証する。 ## 問題設定 - 本番クラスタのノードテレメトリは、ハードウェア世代・冷却・ワークロード・運用モードの差により本質的に非 IID である。 - ナイーブな中央訓練や標準 FL は、未見ノードへの汎化が劣化する。 - 異常は稀(D1 約 3%、D2 約 1.7%)でラベル付与コストが高い。 - 先行 FL-in-HPC(著者らの一連研究を含む)は主に参加ノード上の訓練可能性を示してきたが、非参加ノードへの転移は未検証だった。 ## 提案手法 パイプラインは次の 4 段である(図1)。 1. **局所訓練とランキング**: 各ノードで dense オートエンコーダを訓練し、ホールドアウトの F1 で 100 ノードを順位付けする。 2. **FedAvg による連合学習**: Top-N または Random-N の $N\in\{3,5,10,20,25,50\}$ ノードが FedAvg(1000 ラウンド)で大域モデルを作る。 3. **非参加ノードへの転移**: 残り $100-N$ ノードへ大域モデルを配布する。 4. **個人化**: 既定ではエンコーダを凍結しデコーダのみを局所微調整する(図2)。 ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig01-ftl-pipeline.png]] (Figure 1. HPC 異常検知向け FTL パイプライン。私有テレメトリ上の局所オートエンコーダ訓練、Top-N による FedAvg、非参加ノードへの転移と局所微調整。) ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig02-knowledge-transfer.png]] (Figure 2. 知識転移。エンコーダ層を凍結し、デコーダ層を局所データで微調整する。) 学習パラダイム: - 教師なし: 正常データのみ。再構成誤差 > 0.5 を異常。 - 半教師あり: 一部ラベル付き異常を含め、閾値は訓練誤差の 98 パーセンタイル。 - 教師あり: エンコーダに分類ヘッドを付与。ラベルは訓練データの 1/4 のみ使用。 ハイパーパラメータは Table 1(RMSprop、学習率 $10^{-6}$、MSE、バッチ 10、エポック 10)。 ## 新規性 - Tier-0 本番(Marconi100)の実テレメトリ・実故障で、非参加ノードへの FTL 汎化を初めて示した。 - 教師なし・半教師あり・教師ありを横断評価した。 - Top-N(性能ベース)対 Random-N(多様性)を明示比較し、統計検定を付した。 - デコーダのみ微調整による資源意識の個人化を提案し、フル微調整と比較した(図3)。 - PCA とエンコーダ重みのコサイン類似度で非 IID 異質性を定量化した(図5)。 ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig03-finetuning-comparison.png]] (Figure 3. 20 ノードにおけるデコーダのみ対フル微調整の F1 比較。フルがわずかに勝るが、資源制約下ではデコーダのみを既定とする。) ## 実験設定 - サーバ: Xeon Gold 6240R 42 CPU(96 コア)、790 GB RAM、Ubuntu 22、Python 3.8 / TensorFlow 2.x / TensorFlow Federated、Scikit-learn。 - **D1**: 旧監視構成、462 特徴、Nagios 由来ラベル(15 分)、異常率約 3%。 - **D2**: センサー追加後、573 特徴、良性過渡を除外した注釈、異常率約 1.7%。時間・構成は非重複。 - 各データセットから同一 100 ノードを、ベースライン AE・FL・FTL に一貫して使用。 - 指標: Precision / Recall / TNR / F1 / ΔF1。各設定 5 独立試行。 ## 実験結果 ### パラダイム別(Tables 2–4) - **半教師あり**(Table 2): Top-N で ΔF1 は D1 最大 +0.50、D2 最大 +0.49。例: D1 $N=10$ で F1 0.35→0.84。Random-N でも D1 $N=50$ で ΔF1 +0.69 など大きな利得がある。 - **教師なし**(Table 3): ラベル無しでも一貫改善。D1 Top-N $N=50$ で F1 0.13→0.60(ΔF1 +0.47)。 - **教師あり**(Table 4): ラベル 1/4 でも改善。D1 Top-N $N=3$ で F1 0.65→0.96。D2 Random-N $N=20$ で ΔF1 +0.52 が Top-N の +0.36 を上回る。 ### 横断要約(Table 5, 図4) 平均 ΔF1 は半教師ありが最大(Top-N: D1 0.49 / D2 0.48)、教師なしが中程度、教師ありが相対的に小さいが安定。図4は Semi-supervised の利得が最大で、Random-N が時折 Top-N を上回ることを示す。 ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig04-delta-f1-paradigms.png]] (Figure 4. データセット・パラダイム・ノード選択戦略別の ΔF1 棒グラフ。) | Paradigm | Dataset | Top-N ΔF1 | Random-N ΔF1 | |---|---|---|---| | Semi-Supervised | D1 | 0.49 | 0.44 | | Semi-Supervised | D2 | 0.48 | 0.45 | | Unsupervised | D1 | 0.39 | 0.37 | | Unsupervised | D2 | 0.38 | 0.35 | | Supervised | D1 | 0.32 | 0.32 | | Supervised | D2 | 0.33 | 0.36 | (Table 5. パラダイム・データセット別の平均 ΔF1。) ### 統計・類似度・資源 - 対比較の $p<0.0001$。Cohen's $d$ は多くが 0.9–2.3 の大効果(Table 6)。 - 図5: Top-N ノードは特徴空間で中心寄りに集まり、エンコーダ重みのコサイン類似度も他ノードと高い。 - Table 7 / 図6: 局所 AE 訓練 42–55 s、FedAvg 1 ラウンド 18–24 s、デコーダ微調整 8–11 s(メモリ 1.2–1.5 GB、エネルギー 0.4–0.6 Wh)。フル微調整は時間・メモリ・エネルギーがおよそ倍。 ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig05-internode-similarity.png]] (Figure 5. ノード間類似度。(a) PCA 投影で Top-N が中央寄り。(b) エンコーダ重みのコサイン類似度ヒートマップ。) ![[_attachments/Federated-Transfer-Learning-for-Anomaly-Detection-in-HPC-Systems--First-Real-World-Validation-on-a-Tier-0-Supercomputer/fig06-resource-cost.png]] (Figure 6. FTL 各段の時間・メモリ・エネルギー比較。デコーダのみ微調整がフル微調整より軽い。) | FTL Stage | Time (s) | Memory (GB) | Energy (Wh) | |---|---|---|---| | Local AE Training (10 epochs) | 42-55 | 2.1-2.5 | 0.9-1.1 | | FedAvg (1 round, total) | 18-24 | – | 1.2 (shared) | | Decoder Fine-Tuning (FTL) | 8-11 | 1.2-1.5 | 0.4-0.6 | | Full Fine-Tuning (optional) | 20-25 | 2.5-3.0 | 1.0-1.4 | (Table 7. ノードあたりの推定資源コスト。) ## 考察 - 少数の良質ノードで得た大域表現を、生データを動かさずにクラスタ全体へ拡張できる。 - Top-N は予測可能な安定利得、Random-N は多様性により異質環境で勝つ場合がある。ハイブリッド選択(Quality-seeded coverage / facility-location)は将来課題として提案される。 - プライバシー: 生テレメトリはノード外に出ない。Secure Aggregation と DP-SGD のフックはあるが、本論文では形式的プライバシー監査は未実施。 - 限界: Marconi100 単一プラットフォーム。リアルタイム配備・MindSpore 等への移植・より大規模異質システムへの一般化は将来課題。 ## 強み / 弱点・課題 **強み** - 実運用 Tier-0・実故障ラベルでの FTL 実証。 - 3 パラダイム横断とノード選択方針の比較、効果量まで報告。 - デコーダのみ微調整で個人化コストを抑える実務的設計。 **弱点・課題** - 単一スーパーコンピュータ・均質アーキテクチャに閉じる。 - 実験サーバ上のシミュレーションであり、クラスタ内オンライン FTL の運用実証ではない。 - プライバシー強化は設定フック段階で、漏洩攻撃の実証評価は無い。 - フル微調整がわずかに精度優位なノードがあり、適応的凍結/解凍は未実装。